加州居民要求OpenAI和Sam Altman,指控ChatGPT鼓励自杀

雅加达 - 一名16岁青少年的父母在美国加利福尼亚州自杀身亡,起诉OpenAI公司和首席执行官Sam Altman。

在旧金山州法院提起的诉讼中,受害者的父母亚当·雷恩(Adam Raine)马修和玛丽亚·雷恩(Matthew and Maria Raine)指控AI公司在没有充分保护的情况下推出GPT-4o版本的ChatGPT,从而促使他们的儿子自杀。

他们说,人工智能聊天机器人验证了亚当的自杀心态,甚至提供了有关伤害自己方法的详细信息,教他如何走私酒精,以及隐藏自杀未遂的证据。

通过诉讼,亚当的父母试图追究OpenAI对死亡和违反产品安全法的责任,并要求未指明的金额补偿。

OpenAI发言人表示,该公司对亚当的去世感到悲伤,ChatGPT包括保护措施,例如将人们引导到危机救援渠道。

「虽然这些保护措施在短期和一般交易所中最有利可图,但随着时间的推移,我们意识到这些保护措施有时在长时间的互动中可能变得不太可靠,一些模型安全培训部分可能会减少。

然而,该公司断言,它正在准备家长控制,并探索如何将用户与心理健康专业人员联系起来。