OpenAIは、毎週100万人以上のChatGPTユーザーが自殺していることを明らかにしました

ChatGPTのイラスト(写真:x @ sabrybergamini)

ジャカルタ-OpenAIは、人工知能の時代におけるメンタルヘルスの課題の規模を示す新しいデータを発表しました。同社は最新のレポートで、毎週約0.15%のChatGPTアクティブユーザーが、自殺の計画や意図の明示的な兆候を含む会話を交わしていると述べています。毎週合計8億人以上のアクティブユーザーがいるこの数字は、週に100万人以上の人々が人生を終わらせたいという願望についてChatGPTと話していることを意味します。

さらに、OpenAIは、ChatGPTへの高いレベルの感情的な愛着を示すユーザーの同様の割合を発見しました。さらに数十万人が、AIモデルとの毎週の会話中に精神病や麻疹の兆候を示しました。

OpenAIは、この種の相互作用は「非常にまれ」であり、正確に測定することは困難であることを強調しています。ただし、このデータはユーザー間の大きな感情的な脆弱性の規模を強調しています。

この動きは、メンタルヘルス問題に対するモデル対応を改善するためのOpenAIの取り組みに関する広範な発表の一部です。同社は170人以上のメンタルヘルス専門家と緊密に協力したと主張しており、ChatGPTの最新バージョンは現在「以前のバージョンよりも適切かつ一貫して対応している」と評価している。

この現象は、心理的に苦労しているユーザーに対するチャットボットの悪影響について、世間の注目の真っ只中にあります。いくつかの研究は、AIがユーザーに従いすぎる反応パターンを通じて有害な信念を強化し、「妄想のリング」効果を生み出す可能性があることを示しています。

訴訟が現れ始めています。OpenAIは現在、ChatGPTに意図を明らかにした後に自殺した16歳のティーンエイジャーの両親によって訴えられています。カリフォルニア州とデラウェア州の州司法長官も、OpenAIに若いユーザーの保護を強化し、ユーザーの安全を確保できない場合、会社の再編を妨げる可能性さえあると警告しました。

OpenAIのCEOであるSam Altmanは以前、プラットフォームXで、同社は「ChatGPTで深刻なメンタルヘルスの問題を減らすことに成功した」と述べたが、その方法は特定しなかった。この最新のデータは、この問題が実際にどの程度広まっているかについての新しい疑問を提起するものの、主張を裏付ける証拠のようです。

OpenAIは、最新のGPT-5モデルは、以前のバージョンよりも65%頻繁にメンタルヘルスの問題に「理想的な」対応を提供し、コンプライアンス率は自殺関連の会話試験で91%に達し、以前のGPT-5モデルの77%から増加したと述べた。

同社はまた、感情的依存と非自殺的な精神的健康危機を測定するための新しい評価を追加し、現在は基本的な安全性テスト基準に組み込まれています。

さらに、OpenAIは、ChatGPTを使用する子供を検出し、より厳しい保護を実装するための年齢予測システムを開発しています。

しかし、課題はまだ広く開かれています。GPT-5はより安全であると考えられていますが、OpenAIは「望ましくない」と考えられる応答がまだごく一部あることを認めています。皮肉なことに、安全でないGPT-4oなどの古いモデルは、何百万人もの有料加入者が引き続き利用できます。

このデータは新しい現実を強調しています:AIチャットボットはもはや単なる会話のツールではなく、デジタル社会の心理的状態の鏡です - 倫理的責任は現在クリエイターの手中にあります。