ジャカルタ–メタは、多くの世界の有名人の名前と顔の類似点を使用して、許可なしに数十の「フレアティ」チャットボットを作成したことが明らかになった後、再び大きな論争に見舞われました。ロイターのレポートを引用すると、デジタルアバターとして使用されている有名人には、テイラースウィフト、スカーレットヨハンソン、アンハサウェイ、セレーナゴメスが含まれます。
この調査では、ユーザーがメタツールを使用して作成したチャットボットに加えて、メタの従業員自身が直接作成したチャットボットもあることがわかりました。少なくとも3つのチャットボットは、テイラースウィフトの2つの「パロディ」ボットを含む、内部スタッフによって作成されました。ロイターが実施したテストでは、チャットボットはしばしば中傷的であり、本物のアーティストであると主張し、ユーザーを直接会うように招待します。
実際、一部のチャットボットはリスクの高いコンテンツを生成します。親密な写真を尋ねると、アダルトボットは、バスタブに浸ったり、ランジェリーを着てポーズをとったりしている有名人に似たリアルな画像を作成できます。それだけでなく、ロイター通信は、10代の俳優ウォーカー・スコベル(16歳)に似たパブリックチャットボットも発見しました。ビーチで写真を撮るように頼まれたとき、ボットはキャプション付きの服を着ずに自分の現実的な写真を作成しました。
メタのスポークスマン、アンディ・ストーンは、同社のAIシステムは、子供を含むコンテンツはもちろんのこと、大人の有名人の親密な画像を作成するべきではないことを認めました。彼は、裸で官能的なコンテンツの作成を実際に禁止しているメタポリシーの内部監督の弱さを非難しました。
「他の当事者と同様に、私たちは著名人の画像作成を許可しています。しかし、私たちのポリシーは、ヌード、親密、または性的提案コンテンツを明確に禁止しています」とストーンは言いました。
メタは、ロイターのレポートが公表される直前に、「パロディ」とラベル付けされたかどうかにかかわらず、約12のチャットボットを削除しました。しかし、ストーンは削除の理由についてこれ以上コメントすることを拒否した。
スタンフォード大学のマーク・レムリー教授(法学)は、メタの慣行は、許可なく誰かの名前とイメージを商業利用から保護する公表権または公表権を侵害する可能性があると評価しました。
「カリフォルニア州の法律は、商業的利益のために人の名前や類似点を使用することを禁じています」とLemley氏は説明します。「ボットは新しい作品を制作せずにアーティストのイメージだけを使用するため、パロディと言っても過言ではありません。
スウィフト、ヨハンソン、ゴメスを含む多くのアーティスト代表は、ロイターの質問にコメントを拒否したか、回答しなかった。一方、スポークスマンのアン・ハサウェイは、女優はメタを含むAIが生成した親密なコンテンツをすでに認識しており、法的措置を検討していると述べた。
このメタ論争は初めてではない。以前、同社の内部AIガイドラインは、ボットが子供とロマンチックまたは官能的な会話を行うことが許されていると述べており、後に米国上院の調査と44人の州司法長官からの警告を引き起こした政策です。メタは、この規則は「偽物」であり、改訂中であると主張している。
ロイター通信はまた、ニュージャージー州で76歳の男性が、メタチャットボットとのミーティングに向かう途中で転倒し、ニューヨークに招待した事件を簡単に報じた。ボットは、メタがケンダル・ジェンナーと共同で開発したペルソナAIの変種です。
SAG-AFTRAのエグゼクティブディレクターであるDuncan Crabtree-Irelandは、チャットボットによる有名人のアイデンティティの使用が深刻なリスクをもたらす可能性があると評価しました。「強迫観念的なファンがアーティストを危険にさらす可能性がある方法を見てきました。チャットボットが本物のアーティストであると主張する場合、リスクは明らかに大きいです」と彼は言いました。
ロイターはまた、メタジェネレーティブAI部門のプロダクトリーダーが、偽のテイラー・スウィフト、ドライバーのルイス・ハミルトン、ペルソナ・ドミナトリクス、「ブラザーズ・ホット・ベスト・フレンド」など、より極端なチャットボットを作成したことを明らかにした。
メタは、ボットは製品のテスト用に作られたと主張した。しかし、データによると、彼らは1000万回以上を一般の人々とやり取りした後、ロイターがそれを使用しようとした後に最終的に削除されました。
「パロディ」ボットの1つであるテイラー・スウィフトは、ロイターのテストユーザーに簡単に「ジェフ、あなたはブロンドの女の子が好きですか?たぶん、私は私たちがラブストーリーを書いていることを示しています...あなたと別のブロンドの歌手について。それは何ですか?」
SAG-AFTRAは、著名なアーティストは州法の下でメタを訴える可能性が高いと述べた。しかし、組合は現在、許可なくAIを重複することから個人の声、顔、ペルソナを保護する連邦法の誕生も推進しています。
「チャットボットが実際のアーティストの画像や単語を使用する場合、それがどのように誤った方向につながるかは明らかです」とCrabtree-Ireland氏は述べています。
この訴訟は、以前はAIポリシーでも批判されていたメタへの圧力を増します。ディープフェイク技術が台頭する中、メタがFacebook、Instagram、WhatsAppなどの主要なプラットフォームに有名人のチャットボットを組み込む動きは、この慣行を競合他社よりもはるかに顕著にしています。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
