メタは、オンラインオペレーションでAIによって生成される可能性のあるコンテンツの使用を見つけます

ジャカルタ - メタは5月29日水曜日、FacebookとInstagramのプラットフォームで誤解を招くように使用されている「人工知能(AI)によって生成された可能性が高い」コンテンツを発見したと発表した。コンテンツには、世界の報道機関と米国議会議員からの投稿で発表されたガザでの戦争に対するイスラエルの対応を称賛するコメントが含まれています。

ソーシャルメディア会社は四半期ごとのセキュリティレポートで、アカウントはユダヤ人の学生、アメリカのアフリカ人、および懸念する他の市民になりすまし、米国とカナダのターゲットオーディエンスがいると述べました。メタはこのキャンペーンをテルアビブを拠点とする政治マーケティング会社STOICのせいにした。

STOIC自身は、疑惑にすぐには対応しなかった。

メタは2019年以来、影響力のある作戦で人工知能によって生成された基本的なプロフィール写真を発見しましたが、このレポートは、2022年後半に登場して以来、テキストによって生成されたAIテクノロジーの使用を明らかにするのは初めてです。研究者たちは、人間のようなテキスト、画像、オーディオを迅速かつ安価に生成できるジェネレーティブAIが、より効果的な偽情報キャンペーンにつながり、選択結果に影響を与える可能性があることを懸念しています。

プレスリリースで、メタのセキュリティ幹部は、イスラエルのキャンペーンを迅速に段階的に廃止し、新しいAIテクノロジーが特定のメッセージをプッシュするための協調的な試みである影響力ネットワークを混乱させる能力を妨げているとは考えていないと述べた。

「ネットワーク全体で、おそらくAIジェネレーティブツールを使用してコンテンツを作成する方法について、いくつかの例があります。おそらく、より速く、またはより多くのボリュームでそれを行う能力を与えます。しかし、それは本当にそれらを検出する私たちの能力に影響を与えません」とMetaの脅威調査責任者、Mike Dvilyanskiは言いました。

報告書は、第1四半期にメタを妨害した6つの隠された影響力作戦を強調しています。STOICネットワークに加えて、メタはイスラエルとハマスの紛争に焦点を当てたイランを拠点とするネットワークも閉鎖したが、キャンペーンでの生成AIの使用は特定しなかった。

メタや他のテクノロジー大手は、特に選挙で、新しいAIテクノロジーの潜在的な誤用に対処するのに苦労しています。

誤解を招くために使用されるAIによって生成された可能性のあるコンテンツの発見は、そのようなアクティビティを検出して削減する際にソーシャルメディア企業が直面する課題を強調しています。また、オンラインで進化する操作や偽情報の戦術に対抗するために、ソーシャルメディアプラットフォームによる継続的な技術的警戒と適応の必要性を強調しています。