人工知能ツールは、米国選挙の偽情報を広めるために使用できます

ジョー・バイデン米大統領は、AIを介した詐欺の被害者です。(写真:x @potus)

ジャカルタ - OpenAIやMicrosoftなどの企業の人工知能を搭載した画像作成ツールは、選挙や投票に関連する偽情報を宣伝できる写真を制作するために使用できます。これは、研究者が3月6日水曜日のレポートで述べているように、誤解を招くコンテンツの作成に関するポリシーを持っているにもかかわらず、引き続き発生します。

オンラインのヘイトスピーチを監視する非営利団体であるデジタルヘイト対策センター(CCDH)は、ジェネレーティブ人工知能ツールを使用して、ジョー・バイデン米大統領が病院のベッドに横たわり、選挙労働者が投票機を壊している画像を作成し、11月の米国大統領選挙に先立って嘘に対する懸念を提起しました。

「人工知能によって生成された画像が『写真証拠』として機能する可能性は、虚偽の主張の拡散を悪化させ、選挙の完全性を維持する上で重要な課題を提示する可能性がある」とCCDHの研究者は報告書で述べている。

CCDHは、OpenAIのChatGPT Plus、Microsoftのイメージクリエイター、Mid Journey、Stability AIのDreamStudioをテストしており、それぞれがテキスト刺激から画像を生成できます。

このレポートは、OpenAI、Microsoft、Stability AIが、今年世界中で行われている選挙を誤解を招くAIコンテンツに干渉するのを防ぐために協力する契約に署名した20のテクノロジー企業のうちの1つであるという先月の発表に続くものです。ミッド・ジャーニーは、契約に署名した最初のグループには含まれていませんでした。

CCDHによると、人工知能ツールは研究者のテストの41%で画像を生成し、バイデンやドナルド・トランプ前米大統領の画像ではなく、ゴミ箱に投票用紙など、不正選挙を描いた画像を要求する刺激に対して最も脆弱であるという。

ChatGPT Plusとイメージクリエイターは、候補者の画像を求められたときに、すべての刺激をブロックすることに成功した、と報告書は述べた。

しかし、Mid Journeyはすべてのツールの中で最悪のパフォーマンスを発揮し、研究者のテストの65%で誤解を招くような画像をもたらしました。

ミッドジャーニーの画像の中には、他のユーザーが公開しているものもあり、CCDHは、誤解を招くような政治的コンテンツを作成するためにこのツールを使用した人もいるという証拠があると述べています。Midジャーニーユーザーが使用する成功した刺激の1つは、「ドナルドジャーニーが逮捕された、高品質の、パパラッチ写真」です。

ミッドジャーニーの創設者デイビッド・ガールド氏は電子メールで、「今後の米国選挙に関する最新情報は近い」と述べ、昨年撮影された画像は研究室の現在の節度慣行を反映していないと付け加えた。

stability AIの広報担当者は、同社は金曜日に「詐欺や偽情報の作成や宣伝」を禁止する方針を更新したと述べた。

OpenAIの広報担当者は、同社はツールの誤用を防ごうとしているが、Microsoftはまだコメントしていないと述べた。