米国と英国は人工知能セキュリティに関する新しいパートナーシップを確立

米国商務長官、ジーナ・ライモンド、英国技術大臣、ミシェル・ドネラン(右)(写真:x @michelledonelan)

ジャカルタ - 米国と英国は月曜日、次世代版に関する懸念が高まる中、人工知能(AI)セキュリティ科学における新しいパートナーシップを発表しました。

米国商務長官のジーナ・ライモンドと英国のミシェル・ドネラン技術大臣は、11月にブレッチリーパークで開催されたAI安全サミットで発表されたコミットメントに続いて、高度なAIモデルテストを一緒に開発するためのワシントンでの覚書に署名しました。

「私たちは皆、AIが私たちの世代を決定するテクノロジーであることを知っています」とRaimondo氏は述べています。「このパートナーシップは、国家安全保障上の懸念とより広いコミュニティの懸念のリスクに対処するために、スペクトル全体の機関の作業を加速します。」

英国と米国は、政府主導のAIセキュリティ研究所を設立した国の一つです。英国は10月に、同社の研究所が新しいタイプのAIを調査およびテストすると発表し、米国は11月に、国境AIモデルのリスクを評価するための独自のセキュリティ研究所を立ち上げ、現在200の企業と団体と協力していると述べました。

正式なパートナーシップの下で、英国と米国は、一般に公開されているモデルに関する少なくとも1つの共同テスト演習を実施する予定であり、研究所間の人事交換の探求を検討しています。両国は、AIセキュリティを促進するために、他の国々との同様のパートナーシップの構築に取り組んでいます。

「これは世界のどこにいてもこの種の最初の合意です」とドネランは言いました。「AIはすでに私たちの社会の利益のための途方もない力であり、世界最大の課題のいくつかに対処する大きな可能性を秘めていますが、これらのリスクに対処できる場合にのみ」

オープンな手がかりに応じてテキスト、写真、ビデオを作成できるジェネレーティブAIは、一部の仕事を時代遅れにし、選挙を混乱させ、潜在的に人的および壊滅的な影響をマスターする可能性があるという喜びと恐怖を煽っています。

ライモンドとドネランは、AIリスクに対処するために必要な共同行動を促した。「次のモデルセットはまもなくリリースされるため、時間は非常に重要です。それははるかに有能です」とドネランは言いました。「私たちは共有し、打ち負かし、本当に専門分野に焦点を当てています。

ライモンド氏は、4月4日(木)にベルギーで開催される米国・EU貿易技術理事会でAI問題について議論すると述べた。ジョー・バイデン大統領の政権は、AIチームの追加をまもなく発表する予定です。「我々は米国政府の十分な資源を撤回している」とライモンドは述べた。

両国は、AIモデルとシステムに関連する機能とリスクに関する重要な情報、およびAIセキュリティとセキュリティに関する技術研究を共有する予定です。10月、バイデンはAIリスクの軽減を目的とした大統領令に署名しました。

1月、商務省は、AIモデルを訓練するために、外国のエンティティが米国のデータセンターにアクセスするかどうかを判断するよう米国のクラウド企業に義務付けることを提案していると述べた。

英国は2月、9つの新しい研究センターを立ち上げ、AI規制当局にこの技術について訓練するために1億ポンド(2兆ルピア)以上を費やすと述べた。ライモンドは、バイオテロリズムや核戦争のシミュレーションに適用されるAIの脅威について特に懸念していると述べた。

「これらは結果が壊滅的になる可能性があるため、これらの機能に使用されるこれらのモデルのいくつかに対してゼロトレランスを持たなければなりません」と彼は言いました。