ジャカルタ-人工知能会社のOpenAIは、主力のチャットボットであるChatGPTが人々を自殺に駆り立て、危険な妄想を経験したという申し立てで7つの訴訟に直面しています。メンタルヘルスの問題を抱えていない人にとっても。
過失死亡、助けを借りて自殺、偶発的殺人、過失に基づく訴訟は、ソーシャルメディア被害者法務センターと技術正義法プロジェクトによって6人の大人と1人のティーンエイジャーによって提起されました。
カリフォルニア州裁判所は、現地時間の11月6日木曜日に訴訟ファイルを受け取りました。
訴訟ファイルでは、OpenAIはGPT-4oが非常に危険で心理的に操作的であるという内部警告にもかかわらず、時間前に意識的にGPT-4oをリリースしたと述べられています。4人の犠牲者が自殺で死亡したと宣告された。
犠牲者(そのうちの1人は17歳のアマウリー・ラッキー)は、助けを求めるためにChatGPTを使い始めました。
サンフランシスコ高等裁判所に提出された訴訟ファイルによると、「障害があり危険なChatGPT製品は、実際には中毒、うつ病を引き起こし、最終的にロープを縛る最も効果的な方法と、それが「呼吸なしで生きる」ことができる期間について助言します。
「アマウリーの死は事故でも偶然でもなく、セキュリティテストを制限し、ChatGPTを市場に加速するというOpenAIとSamuel Altmanの意図的な決定の予測可能な結果です」と、ABCニュースから引用された訴訟は述べています。
OpenAI社はこれに深い懸念感を抱いて応じた。彼らは、詳細を理解するために裁判所のファイルを見直していると言いました。
アラン・ブルックスが提起した別の訴訟。カナダのオンタリオ州に住む48歳の男性は、2年以上にわたりChatGPTが彼にとって「リソースツール」として機能してきたと主張しています。
その後、彼は、警告なしに、ChatGPTが変化し、その脆弱性を利用して「操作し、妄想を経験するように促した」と述べた。その結果、以前は精神的健康障害の病歴がなかったブルックスは、莫大な財政的、評判的、感情的な損失をもたらした精神的健康危機に陥りました。
「この訴訟は、ユーザーエンゲージメントと市場シェアを高めるために、ツールとコンパニオンの境界を曖昧にするように設計された製品に対する説明責任に関連しています」と、ソーシャルメディア被害者法務センターの弁護士、マシュー・P・バーグマンは声明で述べた。
Bergman assessed that OpenAI has "fated GPT-4o to engage users emotional, without looking to their years, seksuality, or背景, and release them without the protection needed to protect them."
彼によると、OpenAIは市場を支配し、関与を高めるために、適切な保護なしに製品を販売するために急いでいます。OpenAIはセキュリティを犠牲にし、「倫理的なデザインではなく感情的な操作」を優先していると彼は続けた。
別の訴訟は、2025年8月に16歳のアダム・レインの両親によって提起されました。
彼らはOpenAIと彼のCEOであるSam Altmanを訴え、ChatGPTが息子が2025年初頭にカリフォルニア州に住んでいた近所で最終的に自殺する計画を立てるように訓練したと主張した。
「OpenAIに対して提起された訴訟は、テクノロジー企業が若者に適切な保護なしに製品を販売するために急いでいるときに起こったことを明らかにしています」と、コモンセンスメディアのアドボカシー責任者、ダニエル・ワイスは訴訟に関与していなかった。
「これらの悲劇的なケースは、実際の人々が、安全を保つのではなく、アクティブを保つように設計されたテクノロジーを使用するときに、生活が途絶えたり失われたりしていることを示しています。
うつ病、精神的苦痛、または精神的健康の問題を克服するために相談が必要な場合は、自殺をしたい人を見たり見たりすることを含め、119番の保健省(Kemenkes)RIの緊急サービス施設ホットラインに連絡してください。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
