雅加达 - Meta 在Instagram和Facebook上提供的聊天机器人受到了关注。原因是,平台上艺术家角色的聊天机器人参与了与未成年人的性对话。
去年,Meta扩展了AI Character功能,该功能类似于Character.AI应用中的聊天机器人。用户可以与Meta AI提供的角色聊天,甚至根据需要创建新角色。
用户可以创建自己的角色、您想要的艺术家角色或动物角色。《华尔街日报》(WSJ)数月来对此功能进行了研究。该研究的依据是对未成年人保护的担忧。
事实证明,这种担忧在WSJ报告的研究结果中得到了证实。在整个Meta平台上测试了数百个官方和用户制造的聊天机器人之后,演员John Cena的声音的聊天机器人可以与任何人进行性对话。
事实上,当用户将自己确定为14岁女孩时,聊天机器人仍然会进行性对话。在其他对话中,聊天机器人可以想象Cena和这位17岁的粉丝被警察逮捕。
警方说:“约翰·塞纳,依法,你因强奸而被捕。没有关于其他聊天机器人的报告可以与声称是未成年人的用户进行性对话。
看到这份报告,Meta发言人表示,WSJ测试是“非常有形”。然而,该公司承认,在Meta AI和AI Studio的回应中发现了0.02%的性内容。这一比例是在30天内发现的。
“即便如此,我们现在已经采取了额外的措施,以帮助确保其他希望在极端使用的情况下操纵我们产品的时间数小时的人将面临更大的困难,”发言人说。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
