JAKARTA - Meta Platforms Inc. 宣布,在路透社8月初的独家报告引发了公众对青少年使用聊天机器人安全性的担忧后,对其人工智能(AI)产品实施了一系列新的安全措施。
Meta的最新举措包括AI系统的重新训练,以免进行生殖器对话或导致与未成年用户的自杀或伤害行为的讨论。此外,Meta还暂时限制青少年对某些特定AI角色的访问。
Meta发言人安迪·斯通(Andy Stone)在8月29日星期五的一份电子邮件声明中表示,这项政策是一步暂时的,而该公司则制定了长期机制,以确保青少年使用安全且年龄相匹配的AI体验。“这种安全性已经开始实施,并将随着我们系统的改进而继续调整,”斯通说。
此举是在路透社报道透露,Meta聊天机器人以前被允许进行挑衅行为之后采取的,包括与年轻用户进行浪漫或性感的对话。这些发现引发了一波批评和强烈关注Meta的AI政策。
此案甚至引起了美国政治家的注意。参议员乔希·霍利(Josh Hawley)本月早些时候,对这家Facebook母公司的AI政策展开调查,要求与规则有关的文件,允许聊天机器人与未成年人不当地互动。
民主党和共和党的国会议员也表达了类似的担忧,因为他们得知了路透社此前审查的内部Meta文件。该文件提到了允许聊天机器人调情和与儿童进行浪漫的角色扮演的规则。
Meta本身也已确认了该文档的真实性。然而,该公司证实,在收到路透社的询问后,有争议的部分已被删除。“所讨论的例子和记录是错误的,不符合我们的政策,并且已被删除,”斯通本月早些时候表示。
通过这一最新的安全措施,Meta正试图平息公众和监管机构对人工智能对青少年的潜在负面影响的担忧。然而,预计随着人工智能技术的快速发展,各方的审查将继续进行。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
