雅加达 - Meta于5月29日星期三宣布,它发现了在Facebook和Instagram平台上误导性地使用的“人工智能(AI)可能生成的”内容。
这家社交媒体公司在其季度安全报告中提到,这些帐户伪装成犹太学生,非洲裔美国人和其他担忧公民,目标受众在美国和加拿大。Meta将这项活动归咎于总部位于特拉维夫的政治营销公司STOIC。
STOIC本身没有立即回应这些指控。
尽管Meta自2019年以来一直在影响力行动中发现人工智能生成的基本个人资料照片,但该报告是首次揭示自2022年底推出以来,文本生成的AI技术的使用情况。研究人员担心,生成人工智能可以快速廉价地生成人类类似的文本、图像和音频,可能会导致更有效的虚假信息活动并影响选举结果。
Meta的安全高管在一份新闻稿中表示,他们迅速删除了以色列的竞选活动,并且不认为新的AI技术会阻碍他们破坏影响网络的能力,这是一项协调的努力来推动某些消息。
“整个网络中,有几个例子表明,他们如何使用最有可能的AI生成工具来创建内容。它可能会使他们有能力更快地完成任务,或者容量更高。但这并没有真正影响我们检测他们的能力,“Meta威胁调查主管Mike Dvilyanski说。
该报告强调了第一季度困扰Meta的六次隐藏的影响力行动。除了STOIC网络外,Meta还关闭了一个以色列 - 哈马斯冲突为重点的伊朗网络,尽管在活动中没有确定生成人工智能的使用情况。
Meta和其他科技巨头一直在努力解决滥用新AI技术的可能性,特别是在选举中。
AI可能误导性地使用的内容的发现突显了社交媒体公司在检测和减少此类活动方面面临的挑战。它还强调了社交媒体平台需要不断保持警惕和技术适应,以对抗在线增长的操纵和虚假信息策略。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
