OpenAI因未能阻止用户妄想症而被受害者起诉

雅加达 - OpenAI被一名性侵和骚扰的受害者起诉。由于ChatGPT被指责强化了肇事者的危险妄想，该诉讼被提交给加利福尼亚高等法院。

据了解，受害者名叫Jane Doe，他声称OpenAI忽视了他发送给该公司的三个警告。这些警告涉及肇事者对受害者采取的威胁性行动。

肇事者是一名53岁的企业家，他相信自己通过与ChatGPT的激烈对话找到了睡眠呼吸暂停的治疗方法。当他的妄想变得更加严重时，人工智能模型实际上支持了他的想法。

ChatGPT还提到，有“强大的力量”在监视肇事者。此外，OpenAI已恢复先前被停用的肇事者帐户。

实际上，肇事者的帐户以前被标记为非常危险的帐户。根据受害者的说法，OpenAI的人类安全团队仍然恢复了肇事者的帐户，即使该帐户可能包含证据，证明他瞄准并跟踪了Doe。

“用户通信清楚地通知他患有精神障碍，ChatGPT是妄想思维的推动者，”受害者在诉讼中写道，引述TechCrunch于4月13日星期一。

肇事者于1月份因发送炸弹威胁和使用致命武器进行袭击而被捕。然而，他被宣布不能受审，并被送往精神卫生设施。

OpenAI据报道拒绝了要求提供进一步调查所需的攻击者完整聊天记录的请求。该公司只同意暂停用户帐户。

这项行动也受到Edelson PC的关注，Edelson PC是一家法律公司，也参与了Adam Raine的案件，Adam Raine是一名青少年，他在与OpenAI对话几个月后自杀。

“在每起案件中，OpenAI都选择从公众、受害者和受到其产品积极危害的人群中隐瞒重要的安全信息，”埃德尔森说。 “我们要求他们，这一次，做正确的事。”