OpenAIとAnthropicが、未成年者を検出するための新しいAIツールを立ち上げ

OpenAIは青少年保護の真剣な努力をしている(写真:dok.openai)

ジャカルタ - OpenAIとAnthropicは、未成年者のアカウントを特定するために人工知能(AI)技術を活用して、未成年者のユーザー保護を強化するための新たな取り組みを発表しました。この取り組みは、AIプラットフォーム上の未成年者のセキュリティを強化することを目的としていますが、正確性と誤認の可能性に関する疑問を引き起こしています。

これまで、デジタル世界の年齢検証システムは、一般的に操作が容易な生年月日の入力に頼っているため、あまり効果的ではないと考えられていました。2025年にかけて、Googleを含む多くの大手テクノロジー企業は、ユーザーの年齢を検証する上でより積極的なアプローチを採用し始めました。今、OpenAIとAnthropicは、行動と会話に基づく分析ベースの方法に似たステップに従っています。

OpenAIは、ChatGPTモデルの仕様を、18歳未満のユーザーに特化した4つの新しい原則で更新すると発表しました。その主な原則の1つは、他の目的と矛盾しても、青少年の安全を最優先することです。

さらに、OpenAIは、青少年がオフラインで社会的関係を構築するように導くことで、現実世界のサポートも促進します。対話において、AIモデルは、敬意や敬意の念を持って、若者を敬意や敬意の念を持って、若者を扱うのではなく、若者を扱う。

このポリシーは、批判的な判断なしにユーザーの声明を頻繁に承認または正当化するAIモデルとの相互作用に関連しているとされる自殺を含む、いくつかの深刻な事件の報告の後で登場しました。

一方、Anthropicは、18歳未満のユーザーはClaudeモデルを使用できないと強調しています。同社は、ユーザーがまだ未成年であることを示す特定の会話シグナルを検出できる新しいシステムを立ち上げました。検出された場合、関連するアカウントは自動的に無効にできます。

課題と懸念

AI技術は高度と評価されていますが、このシステムは完全ではないことを監視者は警告しています。AIは、モデルが間違った情報や完全に虚偽の情報を生成する幻覚現象を含む、誤りに対して依然として脆弱です。さらに、AIはマルウェアの作成など、危険な目的で使用されることがあります。

もう一つの主要な懸念は、ユーザーの誤認です。Googleが今年初めにAIベースの年齢確認システムを立ち上げたとき、同様の経験がありました。多くの成人ユーザーが、未成年者として誤って検出され、年齢を証明するために身分証明書をアップロードする必要があり、面倒であると評価されました。

この背景から、OpenAIとAnthropicのステップは、青少年の保護にとって肯定的であると評価されていますが、このシステムの有効性はまだテストする必要があります。この新しいアプローチは、その前身と比較してより正確で障害が少ないかどうかは、時間とともに証明されなければなりません。