快科技于8月20日最新报道,Intel正全力以赴推进PC端AIGC应用的普及,提供从硬件到软件的一站式全方位支持。在PC领域,Intel已推出的12/13代酷睿处理器、Arc A系列显卡,以及即将面世的下一代酷睿处理器,均能满足AIGC对高性能计算的需求。
以13代酷睿为例,借助XPU加速、low-bit量化等软件优化技术,即便是高达160亿参数的大语言模型,也能在配备16GB及以上内存的个人电脑上通过BigDL-LLM框架顺畅运行。经验证的模型包括但不限于LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等,同时支持通过Transformers和LangChain API接口在Windows和Linux操作系统中运行。
本文链接:https://www.8btc.com/article/6830244,转载时请标明文章来源。
标签:
文章来源: 酷玩网
版权声明: 本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任