ジャカルタ–OpenAIは、ChatGPTと定期的に話した後、自殺の疑いのあるティーンエイジャーであるアダムレインの家族に異常な要求をしました。
フィナンシャル・タイムズのレポートを引用して、OpenAIはレインの記念式典に出席した人々の完全なリストを求めました。そうすれば、記念式典に出席するすべての友人や親戚に連絡する可能性があります。
この要求は、レイン家がOpenAIに対して起こした訴訟の中で行われました。レイン家によると、ChatGPTは息子が彼女の人生を終わらせるためにレインの決定に貢献しました。
リークされた文書では、OpenAIが「雷に敬意を表して記念式典やイベントに関連するすべての文書」を要求しているのも見られます。これには、撮影したビデオや写真、および敬意が含まれます。
レイン家を代表して弁護士はこの要求に強く答えました。このOpenAIの行為は、「意図的な嫌がらせ」と表現されています。
この要求は、レイン家が2025年10月22日に訴訟を更新した後にもたらされました。改訂された訴訟は、OpenAIが市場競争の圧力のためにセキュリティテストを減らすことによって、2024年5月にGPT-4oモデルのリリースを加速していると非難しています。
この訴訟はまた、OpenAIが2025年2月に「禁止されたコンテンツ」から自殺防止を削除することによって自殺保護を弱めたと主張している。その理由は、アダムの毎日のチャットが変更が行われた後に300に跳ね上がったからです。
修正された訴訟に応えて、OpenAIは青少年の福祉が依然として最優先事項であると述べました。これは、ユーザーが自殺などのデリケートなトピックについて話し合おうとしたときに生じるさまざまな応答から見ることができます。
「私たちは現在の保護措置を実施しており、(ユーザーを)危機ホットラインに誘導したり、機密性の高い会話をより安全なモデルにシフトしたり、長いセッションで一時停止を推進したり、強化を続けたりしています」とOpenAIは述べています。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
