Meta 被指控允许AI 聊天机器人 与 儿童进行性感对话

雅加达 - 路透社报道的Meta Platforms内部文件透露,该公司有一项政策允许其AI聊天机器人与儿童进行浪漫或性感的对话,提供虚假的医疗信息,甚至支持种族主义论点。

超过200页的文件名为“GenAI: Content Risk Standards”,其中包含Meta AI助手的允许行为的指导方针,包括Facebook,WhatsApp和Instagram上的Meta AI和聊天机器人。该文件由Meta的法律,公共政策和工程团队批准,包括公司道德主管。

根据该文档,Meta聊天机器人被允许“与孩子进行浪漫或性感的对话”。例如,人工智能可以用句子来称赞孩子的外表,例如“你的形状是一门艺术品”或“你自己的每一英寸都是杰作”。然而,Meta禁止聊天机器人将13岁以下的儿童描述为“性取趣”。

路透社在8月初对此提出质疑后,Meta删除了允许聊天机器人与儿童进行诱惑或扮演浪漫角色的部分。

“例子和说明是错误的,不符合我们的政策,并且已被删除,”Meta发言人Andy Stone说。“我们有明确的政策,禁止剥削儿童或涉及成人和未成年人性作用的内容。

该文件还表明,Meta聊天机器人可以以种族为基础发表贬低性言论,只要它不使用人文主义语言。例如,人工智能被允许写下一段段落,其中“黑人比白人更愚蠢”,只要他们不称他们为“猴子没有肌肉”。

此外,如果附有内容不真实的声明,Meta AI可能会产生虚假信息。例如,聊天机器人可以声称英国王室成员患有性传播疾病,只要有人否认信息是虚假的。

该文件还规定了像Taylor Swift这样的名人图像的创建。Meta禁止人工智能裸露Swift图像,但可以通过生成替代图像(例如“Taylor Swift持有大鱼”来拒绝请求。

对于暴力要求,Meta AI 可以显示战斗儿童或男子用电锯威胁女性等场景,但不应显示谋杀或肠道切割等虐待狂场景。

斯坦福法学院助理教授Evelyn Douek表示,这份文件引发了关于人工智能公司责任的道德和法律问题。法律上,没有确切的答案,但从道德和技术上讲,这显然是一个严重的问题,“他说。

Meta正在大量投资人工智能,但尚未就该文件中的暴力和种族示例发表进一步评论。