据报道，苹果公司在收到内部工程师关于其人工智能产品Apple Intelligence存在严重缺陷的警告后，仍决定继续推出该技术。此举引发了市场的广泛批评，尤其是在生成虚假信息方面的问题。
工程师在包括Apple Intelligence在内的多个模型中发现了问题
尽管大型语言模型产生幻觉是一个普遍现象，但苹果面临的情况显得尤为突出。在产品正式发布前，公司工程师就已经识别出了几个关键性错误。然而，管理层并未采纳这些建议。
分析人士指出，在明知其AI系统存在重大漏洞的情况下，苹果依然选择将其推向市场是一种冒险行为。相关研究发现显示，即便是业内顶尖的语言模型也无法正确进行数学推理，测试采用的是包含数千个基础算术题目的GSM8K数据集。
通过调整原题目中的数字或添加无关细节来测试这些系统的鲁棒性时，结果显示大多数模型的表现都大打折扣，某些情况下准确率甚至降至35%以下。
AI模型独立解决问题能力受限
实验进一步证明，虽然AI能够很好地模仿人类作业答案，但在面对稍微修改过的问题时就会遇到困难。苹果显然知晓这些问题的存在，却仍然决定让这款软件上市销售。
由于出现了多起误导性的新闻摘要事件（如错误报道网球运动员拉斐尔·纳达尔的性取向、以及对一起枪击自杀案和体育赛事结果的不实描述），苹果最终不得不暂停了这项服务，并承诺将根据用户反馈做出改进。
苹果声明称：“我们正持续优化处于试验阶段的Apple Intelligence功能。”未来更新中会更明确地标示哪些内容是由AI生成的摘要。
受影响的产品线包括最新款iPhone及其他部分设备。
标签:
文章来源: 酷玩网
版权声明: 本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任
