専門家は、生成的なAIとディープフェイクが民主主義と人間の存在を脅かすことを思い出させます

ニューヨーク大学教授のゲイリー・マーカス(写真:ツイッター@SpirosMargaris)/

ジャカルタ - 人工知能(AI)の開発の加速レベルは、選挙などの民主的プロセスを混乱させた可能性があります。それは人間の存在を脅かすことさえあります。この警告は、ニューヨークで開催されたロイターNEXT会議で発せられたAI専門家からのものです。

オープンな指示に応じてテキスト、写真、ビデオを作成できるジェネレーティブAI開発の爆発は、ここ数ヶ月でその可能性に対する興奮と、このAIがいくつかの仕事を無関係にし、選挙を混乱させ、さらには人間を凌駕する可能性があるという恐れを提起しました。

「今日の最大のリスクは民主主義への脅威です...2024年までに世界中で多くの選挙があり、それらのいずれもディープフェイクなどの影響を受けない可能性はほぼゼロです」と、ニューヨーク大学の教授であるゲイリーマーカスは、11月8日水曜日にニューヨークで開催されたロイターNEXT会議のパネルで述べました。

主な懸念事項の1つは、ジェネレーティブAIがディープフェイク(複数のオンライン映像で訓練されたAIアルゴリズムによって作成された現実的だが偽のビデオ)の開発を加速させ、ソーシャルメディアに登場し、政治における事実と架空の境界線を曖昧にしていることです。

「このような合成メディアは数年前から存在していますが、かつては数百万ドルに達していたコストは、今では300米ドルに達する可能性があります」とマーカス氏は述べています。

会議の専門家によると、企業は価格設定を含む決定を下すためにAIをますます使用しており、差別的な結果をもたらす可能性があります。

非営利団体のConsumer ReportsのCEOであるMartha Tenado氏は、調査の結果、黒人または茶色の人口の大多数がいる環境に住んでおり、主に白人が住んでいる環境に近い自動車所有者が、自動車保険料を30%以上支払っていることを示していると述べた。

「消費者にとって、わずかな透明性もありません」と彼はパネルインタビューで語った。

フューチャー・オブ・ライフ・インスティテュートの創設者兼エグゼクティブ・ディレクターであるアンソニー・アギールによると、政策立案者やテクノロジーリーダーが認識しなければならないもう一つの脅威は、AIが非常に強くなり、人類に対する脅威になる可能性です。

「これらのモデルがどれほど強力で、どれだけ早く強くなるかを過小評価すべきではありません」と彼は言いました。

高度な人工知能の開発による災害リスクを軽減することを目的とした非営利団体であるFuture of Life Instituteは、OpenAIのGPT-4よりも強力なAIシステムトレーニングの6か月のモラトリアムを求める公開書簡を発表したときに、3月にニュースで浮上しました。

彼らは、AIラボが「手に負えない競争」に従事し、「自社の作成者でさえも、誰もが理解できず、予測可能で、または制御できない強力なデジタル考え」を開発していると警告しています。

ますます強力なAI開発はまた、人間が新しいスキルを学び、他の業界に参入することが不可能になるまで、仕事を排除するリスクがあります。

「その後、AIをツールとして、AIを人々に力を与えるものとして戻るのはそれほど簡単ではないのではないかと心配しています。そして、それは人々に取って代わるものになるでしょう」とアギレは言いました。