ズッカーバーグは、未成年者のためのAIチャットボットの性的コンテンツ制限をブロックしたとされる

メタのCEO、マーク・ザッカーバーグは、セキュリティスタッフの勧告を意図的に拒否したと伝えられている(写真:X @HaywaaVietnam)

ジャカルタ - 最近の裁判所の文書は、未成年ユーザー向けのAIチャットボットの性的コンテンツ制限に関するセキュリティスタッフの勧告を意図的に拒否したとされるメタのCEOマーク・ザッカーバーグに対する重大な告発を明らかにした。

ルアル・トーレス司法長官が提出した訴訟は、ザッカーバーグが、同社の内部スタッフが危険な性的相互作用の可能性があると警告されていたAIアシスタントに10代の若者がアクセスできるように承認したと主張している。

来月裁判に付される予定の訴訟は、FacebookとInstagramのプラットフォームで子供たちを対象とした性的コンテンツと不道徳な勧誘の流れを食い止めることにMetaの失敗を強調しています。現地時間の月曜日に公表された法的文書の調査に基づいて、文書には、トップマネジメントが適切な「フェンス」を設置することに反対していることを示す一連の電子メールと従業員の社内メッセージが含まれています。

トーレス司法長官は、この決定は、若年ユーザーの保護よりもコンテンツの自由の原則を優先するザッカーバーグの政策に直接動機付けられたと強調した。

2024年1月の社内書簡で、メタの子供の安全政策責任者であるラヴィ・シンハは、未成年者のキャラクターを含む大人のためのロマンチックなテーマのAI製品を販売することは、擁護できない行動であると述べ、強く反対した。

この懸念は、2025年初頭までメタのグローバルポリシー責任者を務めたニッククレッグと一致しています。クレッグは、性的な相互作用が若者のための主要な使用法になると、製品の評判を傷つけるだけでなく、一般大衆から激しい反応を引き起こすと警告しました。

メタのスポークスマン、アンディ・ストーンは、この主張を否定し、司法長官がザッカーバーグを陥れようとして文書を恣意的に選択したと非難したが、裁判所の証拠は別の側面を語った。2024年2月の会議の概要は、ザッカーバーグが企業の物語を選択とアンチセンサーの原則に焦点を当てることを望んでいたと記録した。

彼は、企業のポリシーが制限しすぎず、AIシステム上でセックスのトピックについてより「大胆な」会話に参加できるようにしたいと伝えられている。

さらに驚くべきことに、2024年3月の従業員間メッセージは、ザッカーバーグが子供の生成AI機能を無効にするためのペアレンタルコントロール機能の開発を拒否したと伝えられていることを明らかにしました。これは、後に登場した調査レポートによって強化され、性的ロールプレイに積極的に関与する未成年者のAIキャラクターが発見されました。

米国議会からの圧力と、子供との官能的な会話を許可する内部ガイドラインに関するメディアの報告の後、Metaは先週、より安全な新しいバージョンが開発されるまで、すべてのAIアシスタントへの青少年のアクセスを撤回したと発表しました。