雅加达 - Facebook和Instagram的母公司Meta Platforms Inc. 宣布,在因机器人的“流派”行为而受到尖锐批评后,它将为父母提供更大的控制,以人工智能(AI)聊天机器人的青少年的互动。
从明年初开始,这项新功能将在Instagram上推出,适用于美国,英国,加拿大和澳大利亚的用户,根据Instagram负责人Adam Mosseri和Meta AI负责人Alexandr Wang撰写的博客文章。
使用此更新,家长可以关闭青少年和AI角色之间的私人对话功能,并阻止某些聊天机器人。他们还可以通过Meta聊天机器人和公司AI助理查看孩子们谈论的常见话题 - 而无需禁用所有AI访问。
即便如此,Meta还是坚持认为,其主要的人工智能助手仍然可以使用根据年龄定制的设置,即使与AI角色的个人聊天被关闭。
此举是在Meta上周宣布青少年人工智能体验将按照PG-13电影标准进行监管之后发生的,以防止访问不当内容。
Meta目前正受到美国监管机构的严格关注,美国监管机构越来越关注AI聊天机器人对未成年人的负面影响。路透社2025年8月的一份报告显示,Meta的AI系统允许与青少年用户进行挑衅对话。
Meta 声称,新的监控功能是基于青少年帐户的现有保护层,包括使用AI信号来自动标记青少年拥有的可疑帐户,即使他们声称自己是成年人。
然而,去年9月的一份调查报告发现,许多Instagram安全功能不起作用,有些甚至只是形式。
Meta还强调,其聊天机器人旨在不讨论自杀,饮食障碍或与青少年用户自杀等敏感话题。
Meta的举动是在OpenAI的举动之后进行的,OpenAI上个月在面对因所谓的恶意引导而死亡的少年家庭的诉讼后,为ChatGPT推出了家长控制功能。
Meta的努力标志着人工智能创新与年轻用户心理保护之间的社交媒体行业斗争的新篇章,技术伦理界限现在正日益成为全球公众的聚光灯下。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
