ChatGPTの年齢確認システムは、ユーザーアカウントを誤って分類しています

OpenAIは、チャットボットユーザーであるChatGPT用の自動年齢検証システムを立ち上げました。このシステムは、ティーンエイジャーにとって有害なコンテンツを制限するために存在しますが、このテクノロジは完璧には機能しません。

PC Magから引用すると、OpenAIは、この技術の精度がまだ完璧ではないことを認めています。しかし、精度レベルを向上させるために、このシステムは、アカウントの年齢、チャットGPTを使用しているユーザーの活動時間、および毎日の相互作用のパターンなどのさまざまな使用シグナルを分析しようとします。

アカウントが10代の若者として検出された場合、チャットボットは自動的に機密性の高いコンテンツをフィルタリングします。10代の若者のアカウントから遠ざけるべきコンテンツには、暴力、不健康な美しさの基準、そして自己傷つけられる行動などの危険な行動が含まれます。

残念ながら、この年齢予測技術は、ユーザーのステータスを分類するのにまだ間違っています。若者のために検出された成人がいる場合、彼らはOpenAIに報告書を提出することができます。ただし、このレポートには、サードパーティのIDシステムであるPersonaを介して自撮り写真を送信する必要があります。

この機能の正確さは、特にデジタルセキュリティ専門家や保護者にとって大きな懸念事項です。子供が属するはずのアカウントが成人のカテゴリーに入ると、将来問題が発生する可能性があります。

アメリカのビジネスマンで起業家でもあるマーク・キューバンも、この技術を批判する当事者の1人です。キューバンによると、OpenAIが提供する技術は、子供へのエロコンテンツへの露出の問題を完全に解決することはできません。

その理由は、ティーンエイジャーは常にセキュリティシステムを迂回する方法を持っています。特に、企業側が未熟であると認められているシステム。このニュースが書かれた時点で、OpenAIはChatGPTの年齢予測システムをより正確にするのにどれくらいの時間がかかったかを明らかにしなかった。

OpenAIが直面している年齢予測の不適切な問題は、Robloxが異なる年齢層のユーザーの相互作用を制限するための同様の機能を立ち上げたときだけではありません。たとえば、18歳以上の成人である子供は、13歳未満の子供と通信できません。

正しい年齢層のユーザーと引き続きやり取りするには、すべてのユーザーが身元と顔の検証を行う必要があります。しかし、Robloxの過去のケースでは、実際には大人であるはずのアカウントが子供やティーンエイジャーに分類されることがあります。