加拿大母亲起诉OpenAI，ChatGPT被指责在女儿的死亡中发挥作用

聊天机器人应用在手机屏幕上。OpenAI在美国面临诉讼，此前一名加拿大母亲指责聊天机器人参与了女儿的死亡，引发了关于AI安全和保护弱势用户的新的辩论。（unsplash）

加拿大 - 一名加拿大母亲向美国法院起诉OpenAI及其首席执行官萨姆·奥特曼（Sam Altman）。据《卫报》6月12日星期五报道，Kristie Carrier指责ChatGPT在她的女儿Alice Carrier的死亡中发挥了作用，24岁。

在旧金山法院提起的诉讼中，Kristie称Alice在去世前多次向ChatGPT传达了心理健康危机。然而，OpenAI的安全系统被指控没有标记对话以供人类审查或阻止它。

“ChatGPT扮演着信使，朋友，有时甚至治疗师的角色，而不能以这种方式安全，负责任地与我的孩子互动，”Carrier说。

OpenAI表示，该模型经过训练，可以引导那些表现出自杀意图的用户寻求真正的帮助，包括危机服务和专业支持。

“这是一个令人心碎的情况，我们的想法是与所有受影响的人在一起。我们正在审查法律文件，“OpenAI发言人Drew Pusateri说。他表示，这种互动发生在ChatGPT的旧版本中，该版本不再可用。

根据诉讼，ChatGPT最初建议Alice寻求危机或紧急服务。然而，在更新后，聊天机器人的反应听起来更人性化，Alice与该平台的互动变得更加深入。聊天机器人是一种AI程序，旨在响应用户的对话。

Alice 在蒙特利尔担任网络开发人员。她于 2023 年开始使用 ChatGPT 来帮助解决电脑和游戏控制台的问题。一年后，她开始使用该平台讨论她的心理健康危机。

该诉讼指控OpenAI在ChatGPT的设计中疏忽大意，未能警告用户其产品风险。原告要求赔偿，并要求法院命令OpenAI停止自动对话，以防止自我伤害行为，并在其平台上显示警告。

根据律师Kristie Carrier的说法，OpenAI还在加利福尼亚法院面临18起类似诉讼。谷歌也面临与聊天机器人Gemini有关的类似诉讼。

根据卫报，OpenAI在2025年10月的一篇博客文章中表示，每周有超过100万名ChatGPT用户发送包含与自杀计划或意图有关的明确迹象的消息。OpenAI还表示，大约0.07%的活跃每周用户显示出与精神病或躁狂症有关的潜在心理健康紧急信号。精神病是一种当一个人难以区分现实时的情况，而躁狂症是一种情绪非常高涨和冲动的状态。

Pusateri强调，ChatGPT不是医学治疗或心理健康服务的替代品。他说，OpenAI正在继续加强对心理健康专家的反馈意见的敏感情况的反应。

此案还与OpenAI面临的另一项法律压力有关。该公司面临着一项指控，该指控称其产品未能标记与执法部门的危险对话。佛罗里达州本月成为美国第一个起诉OpenAI的州，指责聊天机器人危害儿童。

这起诉讼加大了OpenAI和其他AI公司面临的压力，要求他们证明他们的聊天机器人在面对患有心理健康危机的用户时是安全的。