美国新闻应用程序NewsBreak, 因人工智能的虚假文章而受到批评

雅加达 - 新闻应用程序NewsBreak在美国下载量最高,在中国根深蒂固,因发布一篇关于新泽西州布里杰顿事件的假文章而面临批评,该事件从未发生过。去年圣诞节前夕,NewsBreak发表了一篇题为“新泽西州布里杰顿发生的圣诞悲剧,在小城市枪支暴力加剧之中”,描述了一起实际存在的枪击事件。

布里杰顿的警察部门表示,这篇文章是“完全错误的”,在圣诞节左右甚至在他们最新的记忆中也没有发生类似的事件。NewsBreak在出版四天后12月28日删除了该文章,但没有提供有关此类错误如何发生的令人满意的解释。

此外,在路透社对法院文件、终止电子邮件和公司2022年公司备忘录的审查中,发现NewsBreak自2021年以来经常犯类似的错误。在至少40个案例中,该应用程序发布了错误的故事,使用虚构的笔记名称从本地新闻网站创建了虚假的故事,并从其竞争对手中删除了内容。

NewsBreak使用的人工智能(AI)算法一直是批评的焦点,前雇员透露,大多数算法开发工作都是在中国公司办事处进行的。这引起了人们对美国用户数据如何在中国访问的担忧。

NewsBreak发布的错误信息的受害者,一些慈善机构也出现了类似的问题。例如,科罗拉多州的一家食品银行表示,它应该拒绝人们,因为NewsBreak提到了错误的食品配送时间。同样,当NewsBreak错误地告知他们正在组织的活动以帮助无家可归者时,宾夕法尼亚州的一家慈善机构遇到了困难。

NewsBreak已达成协议,在几起与未经许可重新发布的内容侵犯版权有关的诉讼中解散。然而,虽然大部分技术工作都在中国进行,但美国总部设立不确定性引发了人们对该公司对美国隐私和法律合规的承诺的质疑。

国会山和媒体界的领导人强调了这个问题,一些当事方呼吁进一步调查NewsBreak的做法及其对本地新闻及其美国用户数据安全性的影响。虽然NewsBreak一直试图纠正这些错误,但有关应用程序透明度和完整性的问题仍然悬而未决。