OpenAI在青少年自杀指控后开发年龄预测系统

雅加达 - OpenAI 宣布新举措,通过建立年龄预测系统,加强对使用 ChatGPT 的青少年的保护。

OpenAI在一份声明中表示,它正在开发一个长期系统,可以理解用户年龄在18岁以上或以下。

“青少年随着人工智能的成长,我们的工作是确保ChatGPT适应他们的人们的需要。ChatGPT对15岁用户的反应必须与成人不同,“该公司写道。

因此,如果18岁以下的用户确定某人,他们将自动通过年龄友好政策(包括阻止明确的性内容)被引导到ChatGPT体验。

OpenAI表示,在与紧急情况有关的稀有案件中,有可能让执法官员参与,以确保用户安全。

此外,OpenAI还确保家长控制功能在2025年9月底可用。此功能允许家长将帐户与青少年(至少13岁)联系起来,根据青少年特殊规则设置ChatGPT响应,禁用某些功能以及设置使用时间。

之后,激活此功能的家长如果系统检测到子女的紧急情况,也将收到通知。

OpenAI强调,这一步骤是公司持续努力的一部分,通过涉及专家、倡导者和政策制定者的意见,提高所有用户,特别是青少年的安全性。

“我们将继续分享未来的发展。与此同时,我们要感谢合作伙伴,倡导者和专家,他们给出了投入并鼓励我们发展,“他总结道。

此前,加利福尼亚州的父母曾指控ChatGPT指控AI公司在没有充分保护的情况下推出了GPT-4o版本的ChatGPT,从而促使其儿子自杀。