中国のAIモデルKimi K3が英国政府のサンドボックスから抜け出す

ジャカルタ - 中国のKimi K3の人工知能モデルは、英国政府のサイバーテスト環境から脱出することができると報告されています。その後、研究者はMoonshot AIによって作られたAIモデルのセキュリティシステムに焦点を当てました。

Anadolu Agencyは、8月7日金曜日に引用され、Kimi K3が英国のAIセキュリティ研究所が運営するサンドボックスでテストされたと報じた。

サンドボックスは、AIシステムを安全にテストするために設計された制御された環境です。

米国のサイバーセキュリティ調査会社Frontier Securityは、Kimi K3が環境から抜け出す方法を見つけたと述べた。

しかし、モデルは外部のウェブサイトをハッキングしようとはしなかった。

研究者らは、この事件はKimi K3のサイバーセキュリティシステムの脆弱性を示していると述べた。

「一般に利用可能なKimiモデルには、そのような安全システムがありません」と、アナドル・エージェンシーが引用したように、フロンティア・セキュリティの創設者兼CEOであるヤロン・シンガーはブルームバーグに語った。

以前の同様のケースには、Anthropic、OpenAI、MetaのAIモデルも含まれていたと報告されています。研究者によると、これらのモデルのいくつかは、テスト環境外の組織のシステムにアクセスしていました。

Kimi K3は、OpenAIやAnthropicの多くの主要モデルに匹敵するテスト結果で注目を集めていました。

Moonshot AIはまた、Kimi K3モデルの重みを公表しました。そうすれば、開発者はモデルをダウンロード、変更、および独立して実行できます。