方正证券:存力优化才是大模型终端应用的重中之重
linx
欧意最新版本
欧意最新版本app是一款安全、稳定、可靠的数字货币交易平台。
APP下载 官网地址
据《科创板日报》9月19日的最新报道,方正证券在近期的研究报告中指出,相较于云端算力与专用GPU的结合,本地模型推理在算力上更依赖于终端硬件的SoC。面对算力瓶颈,未来有望通过芯片架构的升级(如Chiplet技术)以及制程的进步(例如3nm/2nm工艺)来突破。然而,存储能力的优化才是推动大模型在终端应用中的关键所在。存储能力成为未来大规模语言模型(LLM)终端化应用的主要挑战。预计最前沿的移动设备将率先采用高带宽存储(HBM)技术,以突破这一挑战。随着训练和推理环节对存储能力的持续增长需求,HBM市场将迎来扩张。同时,消费端和边缘计算侧的算力需求趋势也将为HBM在长期市场维度上打开新的空间。国内产业链在材料、设备以及产品等各个层面都将从中受益。
本文链接:https://www.8btc.com/article/6833306 转载请注明文章出处
标签:
版权声明: 本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任