雅加达 - 英国广播公司(BBC)就iOS 18上的通知摘要功能向苹果提出了抗议,该功能被认为歪曲了其新闻。通过Apple Intelligence引入的此功能旨在通过呈现文档或通知集的重要点来帮助用户。然而,该功能现在正面临严厉的批评,因为它提供了错误的结论。
英国广播公司(BBC)透露的一个例子中,他们的新闻文章中的通知被总结为“路易吉·曼吉奥内(Luigi Mangione)向自己开枪”。事实上,原文文章解释说,Luigi Mangione在联合健康公司首席执行官布莱恩·汤普森(Brian Thompson)谋杀案中被列为嫌疑人,这名男子还活着。
“听众对代表我们发布的信息或新闻业的信任至关重要,包括通过通知,”BBC发言人在一份官方声明中说。BBC已与苹果联系,表达了这些担忧,并要求该公司立即解决问题。
英国广播公司(BBC)并不是这个错误摘要的唯一受害者。《纽约时报》在11月21日也遇到了类似的问题,当时他们的通知被总结为“内塔尼亚胡被捕”。事实上,最初的文章讨论了一个国际法院为以色列总理发出逮捕令。
这种错误的术语被称为“幻觉”,即人工智能模型即使数据清晰,也会产生不准确的信息。这种幻觉可能会出于各种原因而发生,例如培训数据中的问题,缺乏背景或对源数据的错误假设。
苹果 首席执行官蒂姆·库克(Tim Cook)此前在去年六月推出Apple Intelligence时,曾承认此事的可能性。他表示,尽管质量“非常高”,但该系统仍然不会达到100%的准确性水平。8月,据透露,苹果已指示其AI避免幻觉,包括“不要制造不存在的事实信息”等明确命令。
但是,主要问题在于Apple 的方法,该方法优先考虑用户设备上的处理以维护隐私。此步骤限制了Apple 监控用户设备上实际显示的摘要结果的能力,因此难以提供即时更新或改进。
苹果拒绝就BBC提出的抗议活动发表评论。与此同时,这些投诉突显了科技公司在确保其AI不仅聪明而且值得信赖方面面临的挑战。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
