カナダの母親、OpenAI、ChatGPTが娘の死に関与していると非難

モバイル画面のChatGPTアプリケーション。カナダの母親がチャットボットが彼女の娘の死に関与したと主張し、AIのセキュリティと脆弱なユーザーの保護に関する新たな議論を引き起こしたため、OpenAIは米国で訴訟に直面している。 (写真:Unsplash)

ジャカルタ - カナダの母親がOpenAIとCEOのサム・アルトマンを米国裁判所に訴えた。The Guardianの引用によると、6月12日金曜日に、Kristie Carrierは、チャットGPTが彼女の娘、24歳のAlice Carrierの死に関与したと非難した。

サンフランシスコ裁判所に提出された訴訟で、クリスティはアリスが死する前にチャットGPTに何度も精神的健康危機を伝えたと述べた。しかし、OpenAIのセキュリティシステムは、人間がレビューしたり、それを停止したりするために、その会話にマークを付けなかったと非難された。

「ChatGPTは、信頼できる人、友人、時にはセラピストのような役割を果たしますが、私の子供と安全かつ責任を持ってそのような方法で対話することはできません」とキャリヤーは言いました。

OpenAIは、自傷行為を示すユーザーが、危機サービスや専門家のサポートなど、実際の助けを求めるように導くようにモデルを訓練したと述べた。

「これは悲劇的な状況であり、私たちの心は影響を受けたすべての人々と共にあります。私たちは法的文書を検討しています」とOpenAIの広報担当者Drew Pusateriは述べています。彼は、このインタラクションは、もはや利用できない古いバージョンのChatGPTで発生したと述べた。

訴状によると、チャットGPTは当初、アリスに危機または緊急サービスを求めるよう提案していました。しかし、チャットボットの応答をより人間らしくするように更新した後、アリスとプラットフォームとの対話は深まりました。チャットボットは、ユーザーの会話に反応するように設計されたAIプログラムです。

アリスはモントリオールでウェブ開発者として働いています。彼は2023年にコンピューターの問題とゲームコンソールのヘルプのためにChatGPTを使い始めました。1年後、彼はメンタルヘルス危機について話すためにプラットフォームを使い始めました。

この訴訟は、OpenAIがChatGPTの設計に怠慢であり、製品のリスクについてユーザーに警告するのに失敗したと非難しています。原告は、OpenAIに自己傷害行為に関する自動会話を停止し、プラットフォームに警告を表示するよう裁判所命令と損害賠償を求めた。

OpenAIはまた、カリフォルニアの裁判所で18件の同様の訴訟に直面していると、弁護士のKristie Carrier氏は述べた。Googleはジェミニチャットボットに関連する同様の訴訟に直面している。

ガーディアンによると、OpenAIは2025年10月のブログ投稿で、毎週100万人以上のChatGPTユーザーが自殺計画や意図に関する明白な兆候を含むメッセージを送信したと述べています。OpenAIはまた、週に約0.07%のアクティブユーザーが、統合失調症または躁病に関連する精神的緊急事態の兆候を示す可能性があると述べています。統合失調症は、人が現実を区別するのが難しい状態であり、躁病は非常に高まり、衝動的な気分状態です。

プサテリは、チャットGPTは医療やメンタルヘルスサービスの代替品ではないと強調した。OpenAIは、メンタルヘルス専門家のフィードバックを受けて、引き続き敏感な状況での対応を強化していると述べた。

この事件は、OpenAIに対する別の法的圧力とも関連しています。同社は、その製品が当局に危険な会話をマークできなかったと非難する訴訟に直面している。フロリダ州は、チャットボットが子供たちを危険にさらしたという主張で、今月、OpenAIを訴えた米国で最初の州となりました。

この訴訟は、OpenAIや他のAI企業に、メンタルヘルス危機に直面しているユーザーと対話するときにチャットボットが安全であることを証明するよう圧力を強めています。