雅加达 - OpenAI发布了新数据,显示人工智能时代的人工健康挑战的规模。在其最新报告中,该公司表示,每周约0.15%的活跃的ChatGPT用户参与了包含明确计划或自杀意图的迹象的对话。每周活跃用户总数超过8亿,这意味着每周超过一百万人与ChatGPT谈论终止生命的愿望。
此外,OpenAI还发现类似的用户比例显示出高水平的情感依赖于ChatGPT。其他数十万人在与AI模型的每周对话中出现精神病或精神病的迹象。
OpenAI强调,这种类型的互动被归类为“非常罕见”,因此很难确定地测量。但是,这些数据仍然突出显示了用户之间大规模的情感漏洞。
此举是OpenAI努力改善对心理健康问题的模型应对措施的广泛宣布的一部分。该公司声称已与170多名心理健康专家合作,他们评估说,ChatGPT的最新版本现在“比以前版本更有准确和一致的反应”。
这种现象出现在公众关注聊天机器人对正在努力心理的用户的负面影响之际。一些研究表明,人工智能可以通过过于服从用户的反应模式来加强恶意信念,从而产生“反对幻想”的效果。
法律案件开始出现。OpenAI目前正受到一名16岁青少年的父母的起诉,他们在向ChatGPT透露意图后自杀。加利福尼亚州和特拉华州司法部长还警告OpenAI要收紧对年轻用户的保护,即使在未能保证用户安全时,它也可能阻碍公司的重组。
OpenAI首席执行官Sam Altman此前曾在X平台上表示,该公司“成功地减少了ChatGPT中的严重心理健康问题”,尽管没有具体说明方法。这些最新数据似乎证明了这一说法的支持,尽管它也引发了有关这个问题实际规模的新的疑问。
OpenAI表示,最新的GPT-5模型现在比以前的版本更频繁地对心理健康问题的“理想”反应,在与自杀相关的对话测试中,合规率达到91%,高于之前的GPT-5模型的77%。
该公司还增加了新的评估,以衡量非致命的情绪依赖性和心理健康危机,这些危机现在已纳入基本的安全性测试标准。
此外,OpenAI正在开发年龄预测系统,以检测使用ChatGPT的儿童并实施更严格的保护。
然而,挑战仍然很大。尽管GPT-5被认为更安全,但OpenAI承认,仍然有一小部分的反应被认为是“不必要的”。具有讽刺意味的是,GPT-4o 等旧型号尚未向数百万付费客户提供。
这些数据突显了新的现实:AI聊天机器人不再只是对话的工具,而是数字社会心理状况的镜子——一种道德责任,现在掌握在其制造商手中。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
