AIラベルなしの偽の暴力ビデオをアップロード?Xは90日間の停止を脅し、永久に制裁される可能性

ジャカルタ - Xソーシャルメディアプラットフォームは、AIで作成されたコンテンツにラベルを付けずに人工知能による武装紛争のビデオをアップロードするクリエイターを対象とした新しいポリシーを発表しました。このステップは、情報の流れが非常に重要である戦争状況の真っ只中に誤った情報の拡散を制限するための取り組みと見なされています。

X製品の責任者であるNikita Bierは、3月3日火曜日、違反したクリエイターは90日間クリエイター収益分配の収益化プログラムから直ちに停止されると述べました。制裁期間が終了した後、誤ったAIコンテンツをラベルなしでアップロードし続けると、アカウントは収益分配プログラムから永久に削除されます。

「戦争の期間中、一般市民が現場からの信頼できる情報にアクセスできることは非常に重要です。現在のAI技術では、人々を誤解させるコンテンツを作成するのは非常に簡単です」とビアはXの公式アカウントに書きました。

「今後は、AIによって生成された武装紛争のビデオをアップロードし、AIによって生成されたことを明示しないユーザーは、90日間クリエイター収益分配から除外されます」と彼は付け加えました。

同社は、生成コンテンツ検出ツールとコミュニティベースのファクトチェックシステムであるコミュニティノートの組み合わせを通じて、問題のあるコンテンツを特定すると述べています。このメカニズムは、誤解を招くと思われるアップロードに追加のコンテキストを提供するために使用されていました。

クリエイター収益分配プログラムは、広告収益分配の恩恵を受けて、魅力的なコンテンツを制作し、トラフィックを生成できるクリエイターを奨励するために設計されています。しかし、このスキームは、インタラクションを増やすために、センセーショナルなコンテンツ、クリックバイト、または一般の人々の怒りを引き起こすアップロードを奨励することができると考えられているため、当初から批判を浴びています。

一部のオブザーバーはまた、このプログラムに参加するための要件は、有料のX顧客のステータスを持つクリエイターを必要とし、コンテンツコントロールは完全に厳格ではないと評価されたことを強調しました。

しかし、この最新の政策は、武力紛争に関連するAIコンテンツのみを対象としています。戦争の問題の枠外で、政治的誤報を広めるため、またはインフルエンサーエコシステムで製品を詐欺的に宣伝するためにAIメディアを使用することは、新しい規則によってまだ触れられていません。

このステップXは、合成コンテンツの波に直面してデジタルプラットフォームへの圧力を反映しています。生成AI技術は、偽のビデオや写真を作成することをより簡単で安価にします。紛争の文脈では、その影響は、パブリックパニックから国際的な意見操作まで、広範囲に及ぶ可能性があります。

この方針は、収益化が情報責任とより密接に関連付けられているというシグナルです。しかし、問題は、AI時代にインスタントバイラルの誘惑を鎮めるのに、クアンの停止の脅威が十分に強力であるかどうかです。急速に注目を集める経済の真っ只中、物語の戦争は戦場だけでなく、タイムラインでも起こっているようです。