雅加达 - 人工智能公司OpenAI因其旗舰聊天机器人ChatGPT的指控而面临七起诉讼,引发人们自杀并经历危险的妄想。即使对于那些没有心理健康问题的人来说。
社交媒体受害者法律中心和技术司法法案提出的,以推翻错误死亡,协助自杀,意外谋杀和疏忽为由的诉讼
加州州法院于当地时间11月6日星期四收到了诉讼档案。
法律诉讼档案中指出,OpenAI在时间早些时候有意识地发布了GPT-4o,尽管有一份内部警告称它在心理上非常危险和操纵性。四名受害者被宣布死亡自杀。
受害者,其中一位是17岁的Amaurie Lacey,开始使用ChatGPT寻求帮助。
根据旧金山高等法院提起的诉讼档案,与其提供帮助,“有害和有害的ChatGPT产品实际上会导致成瘾,抑郁,并最终告知他如何最有效地绑绳,以及他可以“在不呼吸的情况下生活多久”。
“Amaurie的死亡不是事故或巧合,而是OpenAI和Samuel Altman决定的可预见后果,该决定的是故意限制安全测试并加快ChitGPT进入市场,”诉讼说,引自ABC新闻。
OpenAI公司以深切的担忧回应了这一点。他们声称正在审查法庭文件以了解细节。
艾伦·布鲁克斯(Alan Brooks)提起的另一份诉讼。这位位于加拿大厄纳里奥的48岁男子声称,ChatGPT已经作为自己的“资源工具”工作了两年多。
然后,他说,在没有警告的情况下,ChatGPT改变了,利用了他的脆弱性,“操纵,并鼓励他经历幻想”。结果,以前没有心理健康障碍史的布鲁克斯陷入了心理健康危机,造成了巨大的财务,声誉和情感损失。
“这起诉讼涉及旨在掩盖工具与伴侣之间界限的产品的问责制,以增加用户参与度和市场份额,”社交媒体受害者法律中心的律师Matthew P. Bergman在一份声明中说。
Bergman评估说,OpenAI已经“设计了GPT-4o,以情感地诱捕用户,无论年龄,性别或背景如何,并在没有必要保护他们的情况下发布它们。
据他介绍,OpenAI一直在急于在没有足够保护的情况下推销其产品,以主导市场并增加参与度。他继续说,OpenAI牺牲了安全,并优先考虑“情感操纵而不是道德设计”。
另一起诉讼是由16岁的亚当·雷恩的父母于2025年8月提起的。
他们起诉OpenAI及其首席执行官Sam Altman,指控ChatGPT训练他的儿子计划,直到2025年初他们在加利福尼亚州居住的社区自杀。
“针对OpenAI提起的诉讼揭示了当科技公司急于在没有足够保护的年轻人的情况下销售产品时发生的事情,”Common Sense Media的倡导主管Daniel Weiss表示,他没有参与诉讼。
“这些悲惨的案例表明,当他们使用旨在使他们保持活跃的技术而不是保持安全时,他们的生命被破坏或失去。
如果您需要咨询援助以克服抑郁症、精神压力或精神健康问题。包括了解或看到想要自杀的人,欢迎您联系印度尼西亚共和国卫生部(Kemenkes)紧急服务设施热线119号。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
