OpenAIは、少年自殺の申し立てを受けて年齢予測システムを開発しました

図(写真:アンスプラッシュ)

ジャカルタ-OpenAIは、年齢予測システムを構築することにより、ChatGPTを使用する青少年の保護を強化するための新しいステップを発表しました。

OpenAIは声明で、ユーザーが18歳以上であるかどうかを理解できる長期的なシステムを開発していると述べた。

「ティーンエイジャーはAIで育ち、私たちの仕事はChatGPTが彼らのニーズに適応するようにすることです。15歳のユーザーに対するChatGPTの対応は、大人の対応とは異なるはずです」と同社は書いています。

したがって、誰かが18歳未満のユーザーを特定した場合、明示的な性的コンテンツのブロックを含む年齢に優しいポリシーでChatGPTエクスペリエンスに自動的に誘導されます。

緊急事態に関連するまれな場合、OpenAIは、ユーザーの安全を確保するために法執行官を巻き込む可能性があると述べました。

さらに、OpenAIはペアレンタルコントロール機能が2025年9月末までに利用可能になることを保証します。この機能を使用すると、親は10代の子供(少なくとも13歳)とアカウントをリンクしたり、10代の若者の特別なルールに従ってChatGPT応答を設定したり、特定の機能を無効にしたり、使用時間を設定したりできます。

後でこの機能を有効にする親は、システムが子供の緊急事態を検出した場合にも通知を受け取ります。

OpenAIは、このステップは、専門家、支持者、政策立案者からの意見を巻き込むことによって、すべてのユーザー、特にティーンエイジャーのセキュリティを向上させるための同社の継続的な取り組みの一環であると強調した。

「今後も開発を共有していきます。その間、意見を提供し、私たちが成長することを奨励してくれたパートナー、擁護者、専門家に感謝したいと思います」と彼は締めくくりました。

この声明は、カリフォルニア州の両親が、AI企業が適切な保護なしにChatGPTバージョンのGPT-4oを発売したという申し立てでChatGPTを訴え、息子に自殺を促した後に出された。