政治キャンペーンにおけるジェネレーティブAIの使用は、注目と懸念を提起します

ジャカルタ - 米国民主党の政治家シャメイン・ダニエルズが議会に立候補しました。彼は、ドナルド・トランプと同盟関係にある共和党員、すなわち2020年の選挙結果に挑戦する上で重要な役割を果たしたスコット・ペリーが現在保持している議席をターゲットにしています。

昨年ペリーに10ポイント未満で敗れたダニエルズは、新しい武器が彼の弱者のキャンペーン、人工知能キャンペーンのボランティアであるアシュリーを助けることを望んでいます。

アシュリーは普通のロボコラーではない。彼の応答は事前に準備または記録されていません。主に民主党の選挙運動や候補者と協力することを意図した彼の生みの親は、彼がOpenAIのChatGPTに似た生成人工知能技術に支えられた最初の政治的な電話メーカーであると言いました。彼は同時に調整されたワンツーワンの無制限の会話を通過することができました。

アシュリーは、ジェネレーティブ人工知能が、候補者がテクノロジーを使用して有権者とますます追跡するのがますます困難になっている政治キャンペーンの新しい時代にどのように参入するかの初期例の1つでした。

一部の人にとって、これは大規模に高品質の会話をするためのエキサイティングな新しいツールです。しかし、これは、人工知能アルゴリズムを使用して作成された「deepfakes」、現実的な偽のビデオ、画像と戦っている、すでに二極化したアメリカの政治情勢における偽情報を悪化させるのではないかという懸念があります。

週末、アシュリーはペンシルベニア州の何千人もの有権者にダニエルズを代表して電話をかけた。経験豊富なキャンペーンボランティアと同様に、アシュリーは有権者のプロファイルを分析して、重要な問題に合わせた会話を編成します。人間とは異なり、アシュリーは常に仕事の準備ができており、ダニエルズのすべてのポジションの完璧な記憶を持ち、誰かが電話を切ったときに失望することはありません。

「それは急速に発展するだろう」と、アシュリーの背後にいる会社であるCivoxのCEOであるIlya Mouzykantskiiは語った。「今年末までに毎日何万件もの通話を実行し、近い将来に6桁に達する予定です。これは2024年の選挙に存在し、非常に大きな方法で提示されます。...未来はすでに見えている」

ダニエルズにとって、このツールは彼の状態をよりバランスの取れたものにします:弱者として、彼は現在、有権者をよりよく理解し、さまざまな言語でそれらを達成し(Ashleyは20以上の言語で流暢に)、そしてより多くの「ハイバンド幅」の会話を実行するための他の方法を装備しています。

しかし、この展開は、5月に議会で「一対一のインタラクティブな偽情報」を通じて選挙の完全性を損なう生成人工知能の能力について「懸念している」と証言したOpenAIのCEO、サム・アルトマンなど、多くの人々を驚かせました。

膨大な量のインターネットデータから学ぶこのテクノロジーは、現実的な会話が非常に優れているため、ここ数ヶ月で人々が恋に落ち、人工知能のチャットボットと結婚したいと表明しています。

Mouzykantskiiは、潜在的な損失を十分に認識しており、倫理よりも利益を優先するように説得する可能性のあるベンチャーキャピタルの資金調達を取るつもりはないと述べた。

OpenAIと同様に、彼は異常なガバナンス構造を確立しました:権限を与えられた委員会は、会社に関する懸念を提起するすべてのものを公に開示することを彼に強制しました。Civoxは、Ashleyにロボット音声を与え、彼がAIであることを明らかにすることに決めましたが、法的にはそうする必要はありません。

Mouzykantskiiと彼のパートナーであるAdam直感(それぞれスタンフォード大学とコロンビア大学のコンピュータサイエンスの元学生)は、彼らが使用していた適切な生成人工知能モデルを開示することを拒否しました。彼らは、20以上の異なる人工知能モデル、いくつかのスチュワード、いくつかのオープンソースを使用しているとだけ言います。

最新の生成人工知能技術のおかげで、Rosはほぼ完全に単独でこれらの製品を構築することができますが、数年前には50人のエンジニアのチームが数年間必要とされていました。

「連邦法の下で、それが違法であるかどうかはわかりません」と、非営利の消費者擁護団体であるパブリックシチズンの社長であるロバートワイスマンは述べています。

ミシガン州は、選挙でディープファケを規制する法律を可決した、または議論しているいくつかの州の1つです。ダニエルズが立候補したペンシルベニア州には、そのような法律がない。

Civoxが行うことに直接適用されるルールはありません。連邦取引委員会の規制では、電話マーケティング担当者が「干渉しないリスト」に登録されている人にロボ通話を発信することは禁止されていますが、このリストは政治的な通話には適用されず、Civoxの活動は「プライベート」メッセージでロボ通話として適格ではありません。

連邦通信委員会は、受信者の事前の承認なしに電話への自動ライブ音声通話を含む、自動化されたキャンペーンや録音に関連する音声通話を禁止しています。FCCはまた、人工知能技術が違法で望ましくないロボ通話にどのように影響するかについての公式調査を開始しています。

連邦選挙委員会は、キャンペーンにおけるAIの使用を規制することを検討し始めています。このルールのいずれも、ムジーカントスキの技術を使用するキャンペーンの方法には適用されません。

Mouzykantskii氏は、偽情報を広めるこの技術の可能性を考えると、規制を歓迎すると述べた。他の企業は、本物の人間とほぼ同じように聞こえるAIコールを作成する可能性が高く、コールがAIによって生成されたことを開示していない、と彼は言った。

「これは、以前は映画やSFブックでのみ利用可能だったいくつかの将来のバージョンにどれほど近いかについての考えを呼び起こすはずです」と彼は言いました。「そして、規制当局や議員が、米国だけでなく世界的にも注目し始めるのに十分です。

デビッド・フィッシュ(63歳)は、アシュリーから聞いて喜んでいましたが、それは人間ではないことをすぐに知ることができました。

「それは私を興味をそそりました」と彼は言いました。「私が好きなのは、彼が自分自身をAIと認識し、私を欺こうとしないことです。」