OpenAIは、ユーザーの妄想を防止するシステムの失敗について、被害者から訴えられている

ジャカルタ - OpenAIは、ハラスメントと嫌がらせの被害者である女性から訴えられています。この訴訟は、ChatGPTが加害者の危険な妄想を強化したとされるため、カリフォルニア高等裁判所に提起されました。

犠牲者の名前はジェンドーで、OpenAIは被害者を脅迫した加害者の行動について警告した3つの警告を無視したと主張した。

犯人は53歳の起業家で、チャットGPTとの激しい会話を通じて睡眠時無呼吸の薬を発見したと信じていました。彼の妄想がより深刻になったとき、人工知能(AI)モデルは彼の考えを支持しました。

ChatGPTはまた、加害者を監視している「大きな力」があると述べた。さらに、OpenAIは以前非アクティブにされていた加害者のアカウントを再び有効にしたことが知られています。

実際、加害者のアカウントは以前は非常に危険なアカウントとしてマークされていました。被害者の説明によると、OpenAIの人間セキュリティチームは、アカウントに彼がDoeを標的にし、尾行した証拠が含まれている可能性があるにもかかわらず、加害者のアカウントを回復しました。

「ユーザーのコミュニケーションは、彼が精神障害を患っており、ChatGPTが妄想的思考の推進者であることを明確に通知します」と、被害者は訴状で書きました。

犯人は、昨年1月に爆弾の脅迫と致命的な武器による攻撃の送付の容疑で逮捕された。しかし、彼は裁判にかけられず、精神医療施設で治療されたと宣言された。

OpenAIは、さらなる調査のために必要な加害者の完全なチャットログを提出する要求を拒否したと伝えられている。同社はユーザーアカウントを一時停止することに同意しただけだ。

この行動は、OpenAIと数か月間会話を交わした後自殺したティーンエイジャーのアダム・レインの事件にも関与した法律事務所であるエデルソンPCによって強調されました。

「あらゆるケースにおいて、OpenAIは重要な安全情報を、被害者から、その製品によって積極的に危険にさらされている人々から、一般の人々から隠すことを選択しました」とエデルソンは述べています。「今回は、彼らに正しいことをするように頼みます」