OpenAI は選挙における AI の使用に関する懸念に対処しようとしている

ChatGPTは、説得力を持って人間の文章を模することができます(写真:ドキュメント。ペクセル)

ジャカルタ - 人工知能研究所OpenAIは、世界人口の3分の1以上が今年投票に向かう準備をしている中、その技術が総選挙に干渉するのではないかという懸念に対処するため、1月15日月曜日にブログ投稿を公開した。

人工知能を使用して選挙の完全性を妨害することは、マイクロソフトが支援する同社が 2 つの製品をリリースして以来懸念されてきた。人間の文章を説得力を持って模倣できる ChatGPT と、「ディープフェイク」の作成にその技術を使用できる DALL-E である。本物のように見える画像ですが、偽物で作られています。

懸念者の中には、OpenAI自身の最高経営責任者（CEO）であるサム・アルトマン氏も含まれており、彼は5月に議会で証言し、生成型人工知能が「1対1のインタラクティブな偽情報」を通じて選挙の公正性を損なう可能性について「懸念している」と述べた。

サンフランシスコに本拠を置く同社は、今年大統領選挙が行われる米国で、選挙などの効果的な民主的プロセスの促進に重点を置いた組織である全米国務長官協会と協力していると述べた。

「ChatGPTは、選挙関連の特定の質問をされると、ユーザーをCanIVote.orgに誘導する」と同氏は付け加えた。

同社はまた、DALL-Eを使用して画像が人工知能によって生成された場合をより明確にするために取り組んでおり、連合によって確立されたプロトコルに従って、画像に人工知能によって生成されたことを示す「cr」アイコンを配置する予定であると述べたコンテンツの確実性と信頼性のために。

また、画像が変更された後でも、DALL-E によって生成されたコンテンツを識別する方法にも取り組んでいます。

OpenAIはブログ投稿の中で、現実の人間を装ったチャットボットの作成や選挙への参加の阻止など、潜在的に不正行為とみなされる方法での自社テクノロジーの使用が自社のポリシーで禁止されていると強調した。

「また、DALL-Eが政治家候補者を含む実在の人物の画像を作成することも禁止された」と同氏は述べた。

同社は、プラットフォーム上で実際に何が起こっているかを監視するという課題に直面しています。

ロイターが昨年、ドナルド・トランプ氏とジョー・バイデン氏の画像を作成しようとしたとき、リクエストはブロックされ、「当社のコンテンツポリシーに従っていない可能性がある」というメッセージが表示された。

しかし、ロイターはマイク・ペンス元副大統領を含む他の少なくとも12人の米国政治家の画像を作成することができた。