据界面新闻报道，高通技术公司的产品管理高级副总裁及AI项目负责人Ziad Asghar近期公开表示，将所有生成式AI的工作负载集中在云端执行，其难度不容小觑。云端处理过程中，成本呈现指数级增长，用户查询次数增多，模型规模随之扩大，进而推高云端成本。此外，应用和用户数量的增长同样会推升成本。基于此，高通更加推崇所谓的“混合AI”模式。
Ziad Asghar进一步阐述，高通所倡导的混合AI模式，其优势在于整合云端与终端各自的优势。一方面，对隐私和安全有较高要求的终端侧工作负载，可以依托边缘云，在终端侧独立完成。同时，通过在云端和边缘侧分散工作负载，我们可以显著降低云端处理的负担。另一方面，对于处理大型负载的AI模型，则可借助云服务供应商的能力来完成。
Ziad Asghar还指出，外界对于云端处理生成式应用存在隐私担忧，而终端侧处理正是解决这一问题的有效途径。“例如，用户发起查询后，终端能够独立完成推理，所有相关的查询信息和数据都将保留在终端上。”
本文链接：https://www.8btc.com/article/6823044 转载请注明文章出处
标签:
文章来源: 酷玩网
版权声明: 本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任
