Meta AIはInstagramユーザーの顔からディープフェイクを作成できます、それを拒否する方法

メタが所有するアプリケーションの使用例。Metaの新しいAIモデル、Muse Imageは、Instagramユーザーの顔からディープフェイク画像を作成できます。写真: Pexels。

ジャカルタ - MetaはMuse Imageをリリースし、他の人がInstagramユーザーの顔で非常に現実的な画像を作成できるようにする人工知能モデルです。リスクは、特にパブリックアカウントを使用する18歳以上のユーザーを潜んでいます。

CNETは7月11日土曜日に引用され、Meta AIアカウントを持っている人は誰でも、画像作成コマンドにInstagramのユーザー名を入力できることが報告されました。その結果、画像は実際の出来事の写真ではないにもかかわらず、ユーザーの顔を説得力のある形で表示できます。

この場合、ディープフェイクとは、AIによって作成された画像を指します。これは、人の顔を非常にリアルに模倣します。自分の顔が他の人のAIの創作物に含まれていることに気づかない人もいます。

Muse Imageは、Metaのスーパーインテリジェンス研究所によって開発されたMuse Sparkファミリーの最初のクリエイティブモデルです。モデルは、より複雑なコマンドを処理し、複数の写真を組み合わせ、既存の画像を編集するように設計されています。

このサービスは、Meta AI、Instagram、WhatsAppのアプリで利用可能です。Metaはまた、Facebook、Messenger、および広告主向けのサービスにも導入する予定です。

CNETは、別のInstagramユーザー名を入力してこの機能をテストしました。ディープフェイク画像は1分もかからないうちに作成できます。

この利便性はすぐに批判を引き起こしました。俳優組合SAG-AFTRAは、LA Timesに、ユーザーを自動的にこの機能に含めるという決定は、現れる可能性のある危険性と損失に対する世論の姿勢を読む上で大きな過ちであると述べた。

性的搾取に関する国立センターのヘイリー・マクナマラ事務局長も、この機能がどのように承認されたのか疑問に思いました。

「どのようにしてこれが緑色の光を与えられるのでしょうか?メタは、搾取、性的暴行、嫌がらせ、アイデンティティ詐欺のための明確で予測可能な機会を創出しています」と彼はCNetによって引用されたように言いました。

クリエイターやインフルエンサーにとって、リスクは非常に大きいです。彼らの名前と顔は個人的なアイデンティティだけでなく、ブランドや収入源の一部でもあります。

メタは、Muse Imageには、違法、わいせつ、または名誉を傷つけるコンテンツの作成を防ぐためのセキュリティシステムがあると述べています。しかし、CNETは、他のAIモデルのセキュリティシステムは、以前は悪意のあるユーザーによって回避される可能性があると指摘しています。

Instagramで顔の使用を制限する方法

ユーザーは2つの方法を選択できます。最初のステップは、Instagramアカウントをプライベートに変更することです。

1. Instagramを開き、プロフィールページにアクセスします。2.右上隅にある3つの線アイコンをタップします。3.アカウントのプライバシーを選択します。4.プライベートアカウントを有効にします。

プライベートアカウントのコンテンツは、AIコンテンツの作成に再処理または使用されるように、誰もアクセスできません。ただし、アカウントを見つけるのが難しくなり、他のユーザーとの相互作用も制限されます。

クリエイター、インフルエンサー、またはビジネスオーナーは、引き続きパブリックアカウントを必要とする場合、コンテンツの再利用権限を無効にすることができます。

1. Instagramを開き、プロフィールページにアクセスします。2.右上隅にある3つの線アイコンをタップします。3.共有と再利用セクションにスクロールします。4.Instagramであなたのコンテンツを再利用し、MetaのAI機能で許可するオプションをオフにします。

この設定は、Meta AI機能によるアップロードとリールの使用を制限します。しかし、このステップは、あらゆる形態の悪用がなくなるという保証とは見なすことはできません。

Meta AIアプリのユーザーは 、 [ 設定]を開き 、 [ あなたの類似性]を選択することもできます。そのセクションでは、ユーザーは、自分の似顔絵、承認されたフォロワー、フォローしているユーザー、すべての人々から、自分の似顔絵を使用できる人を指定できます。