20のテクノロジー企業が世界選挙で人工知能詐欺コンテンツを根絶することに合意

ニック・クレッグ(右)、メタ・プラットフォームスのグローバルアフェアーズ担当社長。(写真:x @amitabhk87)

ジャカルタ - 20のテクノロジー企業のグループは2月16日金曜日、誤解を招く人工知能コンテンツが今年の世界中の選挙に干渉するのを防ぐために協力することに合意したと発表しました。

需要に応じてテキスト、画像、ビデオを数秒で作成できる生成人工知能(AI)の急速な成長は、世界人口の半分以上が投票に行く予定であるため、この新しいテクノロジーが今年の大規模な選挙に影響を与える可能性があるという懸念を提起しました。

ミュンヘン安全保障会議で発表された技術契約の署名には、OpenAI、Microsoft、Adobeなどのコンテンツの作成に使用されるジェネレーティブAIモデルを構築している企業が含まれます。

この契約には、誤解を招く画像、ビデオ、AIオーディオを検出するためのツールの開発、誤解を招くコンテンツについて有権者を教育するための公衆意識向上キャンペーンの作成、およびサービス上のそのようなコンテンツに対して行動を起こすためのツールの開発に協力するというコミットメントが含まれています。

結果として生成されたAIコンテンツを特定したり、その起源を確認したりする技術には、ウォーターマークやメタデータの埋め込みが含まれる可能性があると同社は述べています。この契約は、コミットメントを履行するための時間スケジュールや、各企業がどのように実施するかを規定していません。

「これ(契約)の利点は、それにサインアップする企業の多様性だと思います」と、Meta Platformのグローバルアフェアーズ担当プレジデントであるニッククレッグは述べています。

「個々のプラットフォームが検出、証明、ラベリング、ウォーターマーキングなどの新しいポリシーを策定すれば、すべてが良好であり、相互運用可能な方法でそれを行うというより広範なコミットメントがない限り、さまざまな主なコミットメントで立ち往生します」とクレッグ氏は述べています。

ジェネレーティブAIはすでに政治に影響を与え、人々に投票しないように説得するために使用されています。1月、ジョー・バイデン米大統領の偽の音声を使用した自動通話がニューハンプシャー州の有権者に広まり、州大統領選挙中は自宅にとどまるよう促した。

OpenAIのChatGPTなどのテキスト生成ツールの人気にもかかわらず、テクノロジー企業は、人々がテキストについてより懐疑的になる傾向があるため、写真、ビデオ、AIオーディオの有害な影響を防ぐことに焦点を当てます。「オーディオ、ビデオ、画像との感情的なつながりがあります」と彼は言いました。「あなたの脳は、そのタイプのメディアを信じるように有能です。