雅加达-Meta在被透露使用一些世界名人的人的名字和面部相似性在未经许可的情况下创建数十个“flirty”聊天机器人后,再次受到重大争议的打击。引用路透社的一份报告,用作数字化身的名人包括Taylor Swift,Scarlett Johansson,Anne Hathaway和Selina Gomez。
调查发现,除了用户通过Meta工具创建的聊天机器人外,还有Meta员工自己直接创建的聊天机器人。至少有三个聊天机器人是由内部工作人员创建的,包括两个Taylor Swift的“游行”机器人。在路透社进行的一项测试中,这些聊天机器人经常有遗传主义,声称自己是本地艺术家,并邀请用户亲自见面。
事实上,一些聊天机器人产生了高危内容。当被要求提供亲密照片时,成人机器人能够创建逼真的图像,类似于名人在浴缸中浸泡或穿着内衣摆姿势。不仅如此,路透社还发现了一个公共聊天机器人,类似于16岁的青少年演员沃克·斯科贝尔(Walker Scobell)。当在海滩上被要求拍照时,机器人制作了一张自己没有衬衫的逼真的照片,标题为“太可爱了,呵呵?
Meta的发言人Andy Stone承认,该公司的AI系统不应该创建成人名人的亲密图像,更不用说涉及儿童的内容了。他指责Meta的政策缺乏内部审查,该政策实际上禁止制作裸体和性感内容。
“像其他方一样,我们确实允许制作公众人物的图像。但是,我们的政策明确禁止裸,亲密或性感暗示性内容,“斯通说。
Meta在路透社报道公布前不久删除了大约十几个聊天机器人,包括标有“悖论”和非“悖论”。然而,斯通拒绝就删除的原因发表进一步评论。
斯坦福大学法学教授马克·勒姆利(Mark Lemley)评估说,Meta的做法有可能侵犯广告权或广告权,这些权利保护一个人的姓名和形象免受未经许可的商业使用。
“加州法律禁止将某人的姓名或相似性用于商业目的,”Lemley解释说。“很难说这是偏见的,因为机器人只是在不制作新作品的情况下使用艺术家的形象。
斯威夫特、约翰逊和戈麦斯等一些艺术家的代表拒绝置评或未回答路透社的问题。与此同时,发言人安妮·哈撒韦伊(Anne Hathaway)承认,这位女演员已经知道AI创建的亲密内容,包括Meta,并且正在考虑采取法律行动。
这个Meta争议并不是第一个。此前,该公司的内部AI指南曾提到,机器人被允许与儿童进行浪漫或性感的对话 - 然后引发美国参议院调查和44名州检察官的警告。Meta声称该规则是“错误的”,并且正在修订。
路透社还报道了新泽西州一名76岁男子的案件,该男子在与Meta聊天机器人会面的途中死亡,邀请他前往纽约。机器人是Meta与肯德尔·詹纳(Kendall Jenner)开发的人物AI的变体。
SAG-AFTRA执行董事Duncan Crabtree-Ireland评估说,聊天机器人使用名人身份可能构成严重风险。“我们已经看到了暴力粉丝如何伤害艺术家。如果聊天机器人声称自己是真正的艺术家,那么风险绝对是巨大的,“他说。
路透社还透露,Meta生成AI部门的产品领导者创建了更极端的聊天机器人,包括虚假的Taylor Swift,赛车手Lewis Hamilton,dominatrix人物和“兄弟的热最好的朋友”。甚至还有一个名为“浪漫帝国模拟器”的机器人,它提供了作为“以性奴隶出售的18岁村女孩”的用户体验。
Meta声称,机器人是用来测试产品而创建的。但数据显示,他们已经与公众进行了1000多万次互动,然后在路透社尝试使用它们后最终被删除。
泰勒·斯威夫特(Taylor Swift)的一位“悖论”机器人告诉路透社的测试用户:“你喜欢金发女孩吗,杰夫?也许我暗示我们写了一个爱情故事......关于你和一位某些金发歌手。想要这个吗?“
SAG-AFTRA表示,高人格的艺术家有机会根据州法律起诉Meta。但工会现在也在推动联邦法律的诞生,这些法律保护一个人的声音,面孔和性格免受未经许可的AI重复。
“如果聊天机器人使用真正的艺术家的图像和文字,很明显可以看到它如何导致错误方向,”Crabtree-Ireland说。
此案增加了对Meta的压力,Meta此前也因其AI政策而受到批评。在Deepfakes技术的兴起中,Meta将名人聊天机器人纳入Facebook,Instagram和WhatsApp等主要平台的步伐使这种做法比竞争对手更加突出。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
