AmazonがサードパーティのAIトレーニングデータからCSAMの発見を報告

ジャカルタ - Amazonは、外部ソースから得た人工知能(AI)トレーニングデータを確認している間に、児童ポルノ(児童性的虐待資料/CSAM)コンテンツを発見したことを確認しました。この発見は、米国のNCMEC(National Center for Missing and Exploited Children)に報告されました。

ブルームバーグの報告書を引用すると、NCMECは2025年を通じてAIベースのCSAMに関する100万件以上の報告を受け取り、その大部分はアマゾンから来ています。同社は、コンテンツがAIシステムをトレーニングするために使用されるサードパーティからのデータのスキャンプロセス中に検出されたと述べています。

しかし、NCMECは、Amazonの報告書は情報源の情報をほとんど含まないため、目立つと評価しています。NCMECのファラオン・マクナティ事務局長は、テクノロジー企業からの報告書には、法執行機関がフォローアップできるように十分な詳細が含まれていることが多いと述べた。Amazonの場合、コンテンツの起源に関する情報がないため、調査に報告書を使用することは困難です。

McNuty氏によると、この状況はAIトレーニングデータ収集プロセスに深刻な疑問を投げかけ、テクノロジープラットフォーム全体でより厳格な監視基準とセキュリティメカニズムの必要性を強調しています。

この批判に答えて、Amazonは、トレーニングデータのレビュー中に広範なスキャンルールを使用し、大量の誤検出を生み出す可能性があると述べた。Amazonはまた、CSAMがAIモデルのトレーニングで実際に使用されているという証拠は見つからなかったと主張した。

同社は、データが第三者から来ており、ユーザー情報を含んでいないため、ソースの詳細を添付できないため、報告は別のシステムを通じて提出されたと説明した。

アマゾンは、責任あるAI開発と子供の安全保護へのコミットメントを強調しています。AI開発における倫理とセキュリティの問題は、OpenAI、Character.AI、Metaなどの他のテクノロジー企業に対するデータ使用とユーザー保護に関する訴訟の増加に伴い、引き続き注目を集めています。