2024年の米国大統領選挙でのディープフェイクの出現は、事実とフィクションの間の境界を曖昧にしています

ディープフェイクは、米国の選挙自体にとって問題です。(写真:dok.pexels)

ジャカルタ - 2024年の大統領選挙における米国の戦争は、事実と架空を混在させるディープフェイクコンテンツでいっぱいだったと、ロイター通信の報道によると。人工知能(AI)アルゴリズムを使用して現実的だが設計されたディープフェイクビデオは、説得力のあるディープフェイクを作成しやすくするMidjourneyのようなさまざまな「ジェネレーティブAI」ツールの存在により、昨年急速に増加しました。

これは、本物と偽の情報を区別する上で深刻な問題を引き起こし、政治的支持者がこの技術を使用して敵のイメージを損なうことを可能にします。

レポートでは、Facebook、Twitter、YouTubeなどのいくつかの主要なソーシャルメディアプラットフォームがディープフェイクを禁止および削除しようとしましたが、この種のコンテンツを監視することに対する有効性はさまざまです。

それに伴い、オンラインで投稿されたディープフェイクビデオとサウンドの数は、前年同期比で3倍になりました。2023年までに世界中のソーシャルメディアサイトで約50万本のディープフェイクビデオとサウンドが流通すると推定されています。

人工知能業界の大手企業の1つであるOpenAIは、政治における製品の使用を制限するための措置を講じました。それにもかかわらず、政治的コンテンツの監督にはまだ抜け穴があり、一部の小規模スタートアップは政治的コンテンツに明示的な制限さえ持っていません。ジェネレーティブAIが、国民の信頼を損なう可能性のある虚偽の情報を広めるために広く使用される可能性があるという懸念があります。

一方、一部の政治主体は、AIジェネレーティブの力を活用してキャンペーンを強化しようとしています。たとえば、共和党全国党(RNC)は、AIによって完全に生成された政治広告を公開しています。この広告は、バイデンが大統領に再選された場合の悲惨なシナリオを説明するために偽の画像を使用します。しかし、これまでのところ、米国で有名なAIジェネレーティブを使用している政治広告はありません。

政治におけるジェネレーティブAIの使用は、政治活動家や戦略コンサルタントの関心も集めています。彼らはこの技術を、選挙における競争を平準化するための安価で効果的な方法と見なしています。いくつかの政治コンサルティンググループは、音声メッセージや画像作成などのAIコンテンツの実験や、AIボットを使用した自動調査の開発を行っています。

このディープフェイク問題に対処するにあたり、業界と規制当局は協力してディープフェイクを追跡および特定できるソリューションを見つけなければなりません。しかし、現時点では明確な解決策はなく、ディープフェイクの問題は、正直で透明な選択の懸念事項であり続けています。

これは、2024年の米国大統領選挙でのディープフェイクの使用に関するニュースです。ソーシャルメディアプラットフォーム、テクノロジー企業、政府など、すべての関係者が協力してディープフェイクによってもたらされる課題に対処する必要があります。有害なディープフェイクコンテンツの拡散を検出して防止できるソリューションを開発することが重要です。

選挙の完全性を確保し、虚偽の情報の拡散を防ぐために、迅速かつ効果的な規制も必要です。OpenAIなどの一部の企業では、政治的な状況で製品の使用に制限を導入していますが、生成AIの責任ある倫理的使用を確実にするために、まだ抜け穴を塞ぐ必要があります。

さらに、ディープフェイクに関する公開教育や、本物と偽のコンテンツを区別する機能も非常に重要です。このテクノロジーをよりよく理解することで、有権者は受け取る情報に対してより批判的で警戒することができます。

ディープフェイクがより洗練され、作りやすい時代には、私たちが消費するコンテンツに対して警戒と批判を保つことが重要です。情報の真実性と完全性を確保することは、デジタルメディアを通じて情報がますます接続されている社会としての私たちの共通の責任です。