AI製の性的画像の取り扱いのメタ監視委員会のレビュー

ジャカルタ - 4月16日火曜日、Meta Platforms Inc.の監査役会は、同社が人工知能(AI)で作られた2枚の画像をどのように扱っているかを検討していると発表しました。この画像には、FacebookやInstagramのサービスで流通している女性有名人の性的コンテンツが含まれています。

メタから資金提供を受けているが、独立して運営されているこの取締役会は、ブログ記事で説明されているように、人工知能を使用して行われたポルノ偽造に関するメタの政策と法執行慣行の有効性を評価するために、これら2つの例を使用します。

評議会は画像の説明を提供したが、評議会のスポークスマンは「さらなる被害を防ぐ」という理由で、そこに描かれた女性有名人の身元を明らかにしなかった。

人工知能技術の進歩により、偽の画像、オーディオクリップ、ビデオは、人間が生成したコンテンツと区別が非常に困難になっています。その結果、オンラインで広がる偽の画像、特に10代の女性や少女をフィーチャーした画像が出現しました。

今年一般に公開された事件では、イーロンマスクが所有するソーシャルメディアプラットフォームXは、米国のポップシンガー、テイラースウィフトのすべての画像を検索する試みを一時的にブロックしました。

一部の業界幹部は、危険な「ディープフェイク」の作成を犯罪とし、ハイテク企業にその目的での製品の使用を防ぐよう要求する法律を制定するよう促しています。

理事会が提出した事件の説明によると、そのうちの1つには、インドの公人に似た裸の女性をフィーチャーしたAI画像が含まれ、インドの女性のAI画像のみを共有するInstagramのアカウントによって投稿されました。

取締役会によると、AIの作成を共有するためにFacebookのグループに別の画像が登場し、「アメリカの公人」に似た裸の女性のAI画像が、胸を指差した男性の画像が表示されました。

メタは、脅迫や嫌がらせのポリシーに違反したとしてアメリカ人女性を描いた画像を削除しました。しかし、当初、彼らはインド人女性をフィーチャーした画像を許可しましたが、取締役会が彼女をレビューすることを選んだ後、ポリシーを変更しました。

別の投稿で、Metaは事件を認め、取締役会の決定を実行することを約束しました。