雅加达 - 宾夕法尼亚大学的学生Olga Loiek在互联网上寻找观众 - 但事件出乎意料。去年11月推出YouTube频道后不久,来自乌克兰的21岁的Loiek发现,她的图像是通过人工智能拍摄和处理的,以便在中国社交媒体平台上创造另有自我。
她的数字双打(大流行) - “娜塔莎” - 声称自己是一名流利的俄语女性,说普通话,并希望感谢中国对俄罗斯的支持,同时通过销售俄食品等产品赚了一点钱。
更重要的是,这些虚假账户在中国拥有数十万粉丝,远远超过Loiek本人的数量。
“这真的是我说普通话的脸,在背景中,我看到了克里姆林宫和莫斯科,我谈到了俄罗斯和中国是多么伟大,”路透社VOI援引Loiek的话说。“这太可怕了,因为这些是我一生中永远不会说的话。
Loiek的案例代表了在中国社交媒体上越来越多的看似来自俄罗斯的女性,这些女性以流利的中文表达了她们对中国的热爱,并表示她们希望通过出售来自家乡的进口产品来支持俄罗斯的战争。
然而,他们中没有真正存在。据专家称,它们是由人工智能通过滥用在线发现的原始女性剪辑而制作的,通常在他们不知情的情况下,这些假头像制作的视频被用来向中国单身男性推销产品。
Loiek图像创建的帐户拥有数十万粉丝,并已售出价值数万美元的产品,包括糖果。一些帖子包含免责声明,称它们可能是使用人工智能创建的。
Loiek等头像像利用了俄罗斯和中国之间的“无国界”伙伴关系,俄罗斯总统弗拉基米尔·普京(Vladimir Putin)在俄罗斯入侵乌克兰前几天访问北京时,于2022年宣布。
XMOV首席执行官吉姆·柴(Jim Chai)是一家开发先进的AI技术且未参与Loiek的情况的公司,他表示,制作此类图像的技术“非常常见,因为在中国有很多人使用它”。
例如,要制作自己的数字人为2D,我只需要录制一个关于自己的30分钟视频,完成后,我编辑了视频。当然,这看起来非常真实,如果你改变语言,唯一需要调整的就是嘴唇同步,“柴说。
人工智能是一个有争议的话题,Loiek的故事强调了非法或不道德使用的风险,因为它是创建和传播内容的强大工具,使其成为全世界常见的内容。
最近几个月,对人工智能有助于虚假信息、虚假新闻和有版权材料的担忧加剧,与ChatGPT等生成人工智能系统的受欢迎程度一致。
1月,中国发布了标准化人工智能产业的设计指南,提议到2026年制定50多个国家和工业标准。欧盟的AI法对高风险AI系统施加了严格的透明度义务,本月生效,规定了全球标准的潜力。
然而,北京大学法学院教授Xin Dai表示,监管机构正试图追求人工智能的快速发展。
“我们只能预测,工具创造信息,创建内容和传播接下来每分钟基本上可用的内容,”Dai说。“我认为这里的关键是数量非常大......不仅在中国,而且全国各地的互联网上。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
