米国は2024年の選挙を前にディープフェイクの脅威が高まっている

,米国上院情報委員会委員長マーク・ワーナー(写真:x @MarkWarner)

ジャカルタ-2024年の大統領選挙サイクルに近づくにつれて、米国はディープフェイクを使用したますます洗練された選挙詐欺の形で新たな課題に直面しており、有権者は本物と偽の区別するための新しいスキルを習得する必要があります。

2月27日、米上院情報委員会のマーク・ワーナー委員長は、米国は2020年の前回の選挙と比較して、2024年の大統領選挙の選挙詐欺に直面する準備ができていないと述べた。

準備状況の低下は、主に過去1年間に米国でディープフェイクが使用された増加によるものです。ID検証サービスであるSumSubのデータによると、北米ではディープフェイクが1,740%増加し、2023年までに世界中で検出されたディープフェイクの数が10倍に増加しました。

このディープフェイクの脅威の明確な例は、ニューハンプシャー州の住民が、1月23日の州予備選挙に投票しないように指示するジョー・バイデン米大統領の声で自動電話を受けたと報告したときです。

この事件は、自動電話詐欺におけるAI音声の使用を禁止し、米国の電話マーケティング法の下で違法にするための米国の規制措置を引き起こしました。

法的措置が取られたにもかかわらず、詐欺師は抜け穴を探し続けています。米国が3月5日のスーパー火曜日の準備として、AIとディープフェイクによって作成された虚偽の情報に対する懸念が高まっています。

SumSubのAIと機械学習の責任者であるPavel Goldman Kalaydinは、有権者がディープフェイクを特定し、ディープフェイクの不正なアイデンティティ状況に対処する準備をする方法をよりよく理解するために。

Kalaydin氏は、有権者がソーシャルメディアで消費するコンテンツをチェックし、情報源を確認する際に警戒することの重要性を強調した。彼はまた、不自然な動き、人工背景、照明の変更など、ディープフェイクで注意すべきいくつかの典型的な兆候を示しました。

ディープフェイクに対する理解は高まっているが、Kaydinは、この技術は急速に進化し続け、特別な検出技術なしでは人間の目による検出がさらに困難になると警告している。

最大の課題の1つは、ディープフェイクの世代と配布です。AIテクノロジーへの容易なアクセスは、偽のコンテンツの拡散への扉を開きましたが、法的規制の欠如により、オンラインでの拡散を停止することが困難になっています。

この問題を解決するために、KalaydinはソーシャルメディアプラットフォームがAIコンテンツまたはディープフェイクコンテンツの自動チェックを実装し、ディープフェイク検出技術を利用してコンテンツの信憑性を確保することを提案しています。

その間、世界中の政府は行動を起こし始めました。たとえば、インドは、信頼性の低いAIツールをリリースする前に、地元のテクノロジー企業が承認を得るためのガイドラインを公開しました。ヨーロッパでは、欧州委員会がこの地域で活動するプラットフォーム向けにAIの誤報ガイドを作成しました。

米国が2024年の選挙に備える中、ディープフェイクによるますます洗練された選挙詐欺から有権者を保護する取り組みは、政府、ソーシャルメディアプラットフォーム、そして社会全体にとって最優先事項であるべきです。