ブレッチリーでのグローバルAI会議:オープンソースのAIセキュリティ論争のハイライト
ジャカルタ - 英国のリシ・スナク首相は、先週最初の人工知能(AI)安全会議を主催した後、一連の重要な取引を主導しました。しかし、この技術を監督する世界的な計画は、まだ合意にはほど遠い。
世界のリーダー、ビジネスエグゼクティブ、研究者、OpenAIのイーロンマスクやサムアルトマンなどのテクノロジーCEOは、カマラハリス米国副大統領とウルズラフォンデアライエン欧州委員会委員長とともに、AIの将来の規制について話し合いました。
中国を含む28カ国の首脳は、技術のリスクを認識する共同声明であるブレッチレー宣言に署名しました。米国と英国は、それぞれのAI安全研究所を立ち上げる計画を発表しました。さらに、来年は韓国とフランスで開催される予定の2つの会議が発表されました。
AIを規制する必要性について合意はあるものの、AIがどのように行われるべきか、そして誰がその取り組みを主導するかについては、依然として論争があります。
AIを取り巻くリスクの急速に高まりは、マイクロソフトが支援するOpenAIが昨年ChatGPTを一般にリリースして以来、政策立案者にとってますます優先事項になっています。
チャットボットが人間のようにスムーズに対応する独自の能力により、一部の専門家はそのようなシステムの開発の一時停止を求め、AIが自律性を獲得し、人類を脅かす可能性があると警告しています。
スナク氏は、テスラの創設者マスク氏をホストする「権利と熱意」について語ったが、欧州議会は、一国の少数の企業、米国が制御する技術とデータが多すぎると警告している。
「すべての技術、すべての民間企業、すべての機器、すべての専門知識を所有している国が1つしかないとすれば、それは私たち全員にとって失敗になるでしょう」とフランスのブルーノ・ルメール経済財務大臣は記者団に語った。
英国はまた、ほぼ完成しているヨーロッパのAI法とは対照的に、AI規制への軽いアプローチを提案することでEUとは対照的であり、より厳しい管理の対象となるリスクが高いと考えられるアプリ開発者を拘束します。
「私はAI法を紹介するためにここに来ました」と欧州委員会のヴェラ・ジュロヴァ副委員長は言いました。
ジュロワ氏は、他の国々がブロックの全体的な法律を模するとは予想していなかったが、グローバルルールに関するいくつかの合意が必要だったと述べた。
「民主的な世界がルールメーカーにならず、私たちがルールの受け入れ者になれば、戦いは失われるだろう」と彼はロイターからVOIが引用した。
団結のイメージを投影したにもかかわらず、参加者は、存在していた3つの主要な権力ブロック(米国、EU、中国)が彼らの支配を肯定しようとしたと言いました。
ハリスが、米国政府が独自のAI安全研究所を発表したとき、つまり英国が1週間前にスナクを凌駕したと提案する人もおり、実存的脅威に焦点を当てたのではなく、短期的には技術リスクを強調する演説をロンドンで行いました。
「AI安全研究所を発表したのと同じように、アメリカは独自のものを所有していると発表したのは興味深いことです」と、英国のAI企業GraphcoreのCEOであるイベント参加者のNigel Toonは述べています。
会議に中国が出席し、「ブレッチレー宣言」に署名するという決定は、英国当局者によって成功として発表されました。
中国の科学技術副大臣は、中国はAIの取り決めに関してすべての当事者と協力する用意があると述べた。
しかし、中国と西側の間の緊張をほのめかして、趙華氏は代表団に「国家は、その規模と規模に関係なく、AIを開発し、使用する同じ権利を持っている」と語った。
多くの参加者によって強調された非公開ディスカッションの繰り返しのテーマは、一般の人々が技術の背後にあるコードを試すための自由なアクセスを提供するオープンソースのAIの潜在的なリスクです。
一部の専門家は、オープンソースモデルは、テロリストが化学兵器を作成したり、人間の制御を超えた超知能を作成したりするために使用できると警告しています。
木曜日にロンドンで行われたライブイベントでスナク氏に語ったマスク氏は、「人間の知性のレベルに近づき始めたり、それを超えたりするオープンソースのAIを持つ時が来るでしょう。私は何をすべきか分からない」
ブレチリー宣言の一環として命じられた「科学の状態」レポートの議長に任命されたAIパイオニアであるヨシュアベンジオ氏は、オープンソースのAIリスクは高い優先事項であると述べました。
「それは悪い加害者の手に置かれることができ、悪意ある目的のために修正することができます。これらの強力なシステムのオープンソースを解放することはできず、それでも適切な安全フェンスでコミュニティを保護します」と彼は言いました。