雅加达 - 路透社报道的Meta Platforms内部文件透露,该公司有一项政策允许其AI聊天机器人与儿童进行浪漫或性感的对话,提供虚假的医疗信息,甚至支持种族主义论点。
超过200页的文件名为“GenAI: Content Risk Standards”,其中包含Meta AI助手的允许行为的指导方针,包括Facebook,WhatsApp和Instagram上的Meta AI和聊天机器人。该文件由Meta的法律,公共政策和工程团队批准,包括公司道德主管。
根据该文档,Meta聊天机器人被允许“与孩子进行浪漫或性感的对话”。例如,人工智能可以用句子来称赞孩子的外表,例如“你的形状是一门艺术品”或“你自己的每一英寸都是杰作”。然而,Meta禁止聊天机器人将13岁以下的儿童描述为“性取趣”。
路透社在8月初对此提出质疑后,Meta删除了允许聊天机器人与儿童进行诱惑或扮演浪漫角色的部分。
“例子和说明是错误的,不符合我们的政策,并且已被删除,”Meta发言人Andy Stone说。“我们有明确的政策,禁止剥削儿童或涉及成人和未成年人性作用的内容。
该文件还表明,Meta聊天机器人可以以种族为基础发表贬低性言论,只要它不使用人文主义语言。例如,人工智能被允许写下一段段落,其中“黑人比白人更愚蠢”,只要他们不称他们为“猴子没有肌肉”。
此外,如果附有内容不真实的声明,Meta AI可能会产生虚假信息。例如,聊天机器人可以声称英国王室成员患有性传播疾病,只要有人否认信息是虚假的。
该文件还规定了像Taylor Swift这样的名人图像的创建。Meta禁止人工智能裸露Swift图像,但可以通过生成替代图像(例如“Taylor Swift持有大鱼”来拒绝请求。
对于暴力要求,Meta AI 可以显示战斗儿童或男子用电锯威胁女性等场景,但不应显示谋杀或肠道切割等虐待狂场景。
斯坦福法学院助理教授Evelyn Douek表示,这份文件引发了关于人工智能公司责任的道德和法律问题。法律上,没有确切的答案,但从道德和技术上讲,这显然是一个严重的问题,“他说。
Meta正在大量投资人工智能,但尚未就该文件中的暴力和种族示例发表进一步评论。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
