包括印度尼西亚在内的在线影响者活动中使用的人工智能正在增加

谷歌在美国拥有的网络安全公司Mandiant于8月17日星期四表示,近年来,人工智能(AI)在网上进行操纵信息活动的使用有所增加,尽管在其他数字入侵中使用这种技术仍然有限。

总部位于弗吉尼亚州的该公司的研究人员自2019年以来发现了“许多例子”,其中AI生成的内容,如制造的个人资料图片,已被用于出于政治动机的在线影响力运动。

报告称,这包括来自与俄罗斯、中国、伊朗、埃塞俄比亚、印度尼西亚、古巴、阿根廷、墨西哥、厄瓜多尔和萨尔瓦多政府相一致的团体的运动。

这是在ChatGPT等生成AI模型最近蓬勃发展之际发生的,该模型使创建令人信服的虚假视频,图像,文本和计算机代码变得更加容易。安全官员警告说,网络犯罪分子使用了此类模型。

Mandiant研究人员表示,生成AI将允许有限资源的群体更大规模地生成更高质量的内容。

例如,与中国国家Dragonbridge相关的信息活动自2019年首次在香港针对民主示威者以来,通过30个社交平台和10种不同的语言“大幅”发展,“曼迪安特智商会副总裁桑德拉·乔伊斯说。

然而,这些活动的影响是有限的。“从有效性的角度来看,那里的胜利并不多,”路透社援引Joycem的话说。“到目前为止,他们真的没有改变威胁的格局方向。

中国否认了美国以前参与此类影响力运动的指控。

曼迪安特帮助公共和私营组织应对数字攻击,他表示,他们没有看到人工智能在来自俄罗斯、伊朗、中国或朝鲜的威胁中发挥关键作用。

Joyce说:“到目前为止,我们还没有看到任何反响事件,人工智能在其中发挥作用。乔伊斯说。“它们并没有真正用于比我们看到的常规工具可以做到的更优越的实际用途类型。

但他补充说:“我们可以非常确定,随着时间的推移,这将是一个日益大的问题。