人間の存在は高度なAI開発の停止を呼びかけ

イラスト:アナドル・エージェンシー

ジャカルタ - Anthropicは、世界が先進的なAIの開発を遅らせ、一時的に停止する選択肢を持つ必要があると警告しています。その理由は、AIのペースが速くなり、人間が必ずしも追いつくことができないからです。

6月7日(日)にアナドル・エージェンシーが報じたように、カリフォルニア州のAI企業は、最先端のAI開発の機会を開くためのグローバルな調整を求めた。Anthropicによると、このステップは、他の主要なAI開発者が参加し、コンプライアンスが検証できる場合にのみ実行できます。

「先進的なAI開発を一時的に遅らせたり停止したりする選択肢を持つことは、社会構造や調整研究が技術の進歩に追いつくことができるようにするために、世界にとって良いことだと信じています」とAnthropicは報告書で述べています。

最先端のAIは、技術開発の最前線にある最も先進的なAIシステムです。一方、AIの調整とは、AIが人間の目的と望ましい価値に従って機能し続けることを保証する努力を意味します。

Anthropicは、開発の停止は単独では実行できないと評価しています。いくつかの国に、同じ条件で停止することに同意する多数の大規模な研究所がなければなりません。彼らはまた、他の参加者が本当に黙って開発を続けるとは限らないことを確認できる必要があります。

同社は、AI開発における人間の役割はますます狭まっていると述べた。AIは、エンジニアや研究者が以前行っていたタスクをますます多く行っています。

「証拠は、人間の役割がAI開発プロセスの各段階で狭まっていることを示しています」と報告書は述べています。

Anthropicはまた、AIが作成したコードが人間のコードと同等になると、人間はコードを書くのをやめて、レビューアとしての役割に留まることができると予測しています。

アナドル・エージェンシーの報告によると、Anthropicの生産コードベースに含まれるコードの80%以上は、同社のAIアシスタントであるクロードによって書かれています。Anthropicのエンジニアは、2021年から2025年の期間に比べて、四半期あたりのコードを平均8倍も生成したと伝えられています。

人間の監視は新たな弱点を生む可能性があるとアンソロピックは警告している。なぜなら、人間は必ずしもAIがそれを作り出すのと同じくらい速くコードをチェックできるわけではないからだ。

「簡単に言うと、何かをする仕事、つまりコードを書くこと、実験を実行すること、結果を生み出すことは、ほとんど人間の時間を必要としません」と同社は述べています。

Anthropic氏によると、この傾向は再帰的な自己改善につながる可能性があります。この用語は、AIが自身の後継者のバージョンを設計および開発できる状態を意味します。

一方、この能力は科学技術の進歩を加速させることができます。しかし、他方では、人類学者はより深刻なリスクを警告しています。すなわち、人間はAIシステムの制御を失う可能性があります。

「これらの質問を一緒に調査する窓は今開かれています」とAnthropic氏は述べています。同社は、政策立案者、研究者、市民社会団体に、AIガバナンスについて議論するよう促した。