ユーザーから抗議を受けたMeta、Instagramでディープフェイクを作成できるAI機能を撤回

Instagramのイラスト。メタは、抗議の後にAI画像にパブリックアカウントの人を入れることを可能にするAI機能を撤回しました。写真: Pexels。

ジャカルタ - メタは、ユーザーがAIによって作成された画像に他の人を入れることを可能にするInstagramのAI機能を削除しました。この機能は、公開アカウントが所有者の積極的な同意なしに自動的に使用できるため、抗議の後に撤回されました。

CNETは7月15日水曜日に引用され、Metaは金曜日に同社のブログの更新を通じてこの機能の廃止を発表したと報告した。

メタは、「この機能はターゲットを絞っていないというフィードバックを聞いているため、もはや利用できません」と述べています。

この機能は、Instagramで画像を作成するためのMetaの最新のAIモデルと一緒に1週間前に導入されました。ユーザーはパブリックアカウントをマークし、そのアカウントからの人物を現実的に見えるAI画像に挿入できます。

この機能は、ディープフェイクを作成するために使用できます。この用語は、AIによって作成された画像、ビデオ、または音声を、実際の人のように作成することを指します。

メタは実際、アカウント所有者がこの機能の使用を拒否する2つの方法を提供しています。しかし、多くのユーザーは、最初から自動的に機能を有効にした会社の決定に抗議しています。

アカウント所有者は、AI画像で使用される外観や外観を望まない場合は、サインアウトする必要があります。

米国の俳優組合SAG-AFTRAは、この機能の廃止を歓迎した。この組織は、同意なしにAIの使用からアーティストの顔、声、外観を保護することを長年奨励してきました。

「同意なしのデジタル模倣の危険性は広く知られています。そのような行動を促す機能は愚かなステップです。私たちはそれを止めることを高く評価します。それは責任ある決定です」とSAG-AFTRAは述べています。

AI画像とビデオモデルは、肉眼で元の録画と区別するのがますます困難なコンテンツを生成できるようになりました。

テクノロジー企業は、AIコンテンツに埋め込まれたデジタルタグやより明確なラベルを通じてこれを克服しようとしています。

しかし、ウォーターマークやラベルがAIコンテンツを簡単に認識できるわけではありません。Instagramでまだ利用可能なAI画像作成および編集ツールも、問題を拡大する可能性があると見なされています。

メタは、公開アカウントをマークしたり、その人物を画像に含める機能を削除しただけだ。AI画像作成および編集機能は引き続き使用できます。