20家科技公司同意在全球选举中根除人工智能欺诈内容

尼克·克莱格(右)是Meta Platforms全球事务总裁。(照片:x @amitabhk87)

2月16日星期五,由20家科技公司组成的一个小组宣布,他们已同意共同努力,防止误导性的人工智能内容干扰今年的世界大选。

生成人工智能(AI)的快速增长,可以在几秒钟内创建文本,图像和视频以应对需求,这引发了人们的担忧,即这项新技术可能会被用来影响今年的大规模选举,因为全球人口中有一半以上计划前往投票站。

在慕尼黑安全大会上宣布的技术协议的签署包括正在开发用于创建内容的生成AI模型的公司,包括OpenAI,Microsoft和Adobe。

该协议包括致力于合作开发工具,以检测误导性AI图像、视频和音频,开展公众意识运动,教育选民了解误导性内容,并在其服务中对内容采取行动。

这些公司表示,识别生成的AI内容或确认其起源的技术可能包括水标或嵌入元数据。该协议不规定履行承诺的时间表或每家公司将如何实施。

“我认为这个(协议)的好处是注册它的公司的多样性,”Meta Platforms全球事务总裁Nick Clegg说。

Clegg说:“如果个别平台制定新的检测、起源、标签、水标等政策,但除非更广泛的承诺以相互互操作的方式这样做,否则我们将陷入不同的承诺hodgepodge。

生成人工智能已经被用来影响政治,甚至说服人们不要投票。今年1月,使用美国总统乔·拜登(Joe Biden)的假音频的自动通话向新汉普希尔州选民传播,促使他们在州总统选举期间呆在家里。

尽管OpenAI拥有的ChatGPT等文本生成工具很受欢迎,但科技公司将专注于防止人工智能照片,视频和音频的有害影响,部分原因是人们往往对文本更加持怀疑态度,Adobe的首席信任官Dana Rao在一次采访中说。“有与音频,视频和图像的情感联系,”他说。“你的大脑有电缆来相信这种类型的媒体。