酷玩网

Intel 跑步进入 AI PC 时代,13 代酷睿支持 160 亿参数大模型

linx
欧意最新版本

欧意最新版本

欧意最新版本app是一款安全、稳定、可靠的数字货币交易平台。

APP下载  官网地址

快科技于8月20日最新报道,Intel正全力以赴推进PC端AIGC应用的普及,提供从硬件到软件的一站式全方位支持。在PC领域,Intel已推出的12/13代酷睿处理器、Arc A系列显卡,以及即将面世的下一代酷睿处理器,均能满足AIGC对高性能计算的需求。

以13代酷睿为例,借助XPU加速、low-bit量化等软件优化技术,即便是高达160亿参数的大语言模型,也能在配备16GB及以上内存的个人电脑上通过BigDL-LLM框架顺畅运行。经验证的模型包括但不限于LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等,同时支持通过Transformers和LangChain API接口在Windows和Linux操作系统中运行。

本文链接:https://www.8btc.com/article/6830244,转载时请标明文章来源。

标签: