英国製知能チームのアドバイザー:人間はAIが強すぎる前に制御および制御するのに2年かかります

ジャカルタ-英国首相の人工知能(AI)チームのアドバイザーは、人間が強すぎる前にAIを制御および制御するのに約2年かかることを明らかにしました。

英国の地元メディアとのインタビューで、英国の先進研究開発機構(ARIA)の議長も務めるマット・クリフォード氏は、現在のシステムは「ますます急速な改善率で有能」になっていると強調した。

彼はさらに、当局が現在の安全と規制を考慮していなかったら、これらのシステムは2年間で「非常に強力」になるだろうと述べた。

「これらの大規模なモデルの制御と規制を今日よりもはるかに可能にするフレームワークを構築するのに2年あります」と彼はコインテレグラフによって言われたと引用されました。

クリフォードは、AIに関連する「多くの種類のリスク」が短期的にも長期的にも存在すると警告し、彼はそれを「かなり怖い」と呼んだ。

このインタビューは、AI安全センターが発行した最近の公開書簡が、OpenAIのCEOであるSam Altmanを含む350人のAI専門家によって署名され、AIは核兵器やパンデミックと同じ実存的脅威と見なされるべきであると述べた後に行われました。

「彼らは、私たちが新しい種、つまり人間よりも大きな知性を作成した後に何が起こるかについて話しています」とクリフォードは付け加えました。

人工知能チームのアドバイザーはまた、AIによってもたらされる脅威は「非常に危険」であり、「モデルが今後2年間に存在することを期待して、すべての人間ではなく多くの人間を殺す」可能性があると述べました。

Clifford氏によると、規制当局と開発者の主な焦点は、これらのモデルを制御する方法を理解し、世界規模で規制を適用することです。

今のところ、彼は、最大の恐怖は、AIモデルがなぜ彼らがしているように振る舞うのかについての理解の欠如であると述べた。

「最も有能なシステムを自由に構築する人々は、[AIシステム]がどのように行動しているかを正確に理解していないことを認めています」と彼は言いました。

Clifford氏は、AIを構築する組織のリーダーの多くが、強力なAIモデルは実装前に監査と評価のプロセスに合格する必要があることに同意していることを強調しました。

今日、世界中の規制当局は、ユーザーを保護し、イノベーションを可能にする規制を作成しようとしながら、この技術とその結果を理解しようとしています。

6月5日、欧州連合(EU)の当局者は、偽情報防止のために、AIが生成するすべてのコンテンツにAIコンテンツとしてラベルを付けることを義務付けることを提案しました。

英国では、野党としての労働者党のフロントベンチメンバーも、AI安全センターの書簡で述べた見解を繰り返し、テクノロジーは薬物や原子力エネルギーのように規制されるべきであると述べた。

この文脈で、世界中の規制当局は、AIテクノロジーとその影響を理解し、ユーザーを保護しながらイノベーションを可能にする規制を作成しようとしています。

6月5日、欧州連合の当局者は、偽情報の拡散を防ぐために、AIによって作成されたすべてのコンテンツにAIコンテンツのラベルを付けることを要求することを提案しました。

英国では、政府に反対する労働者党のフロントベンチメンバーも、AI安全センターの書簡で述べた見解を繰り返し、テクノロジーは医薬品や原子力エネルギーのように規制されるべきであると述べた。