ミケイン3は数分で破られ、セキュリティ専門家は深刻なリスクを警告

ジェミニ3は、天然痘ウイルスを作るためのガイドを提供することができました。(写真;x @Star_Knight12)

ジャカルタ - Googleの最新のAIモデルであるGemini 3は、韓国のサイバーセキュリティ研究チームがシステムをハッキングするのにどれほど簡単かを示した後に、厳しい注目を集めました。

AI攻撃に対するAIの耐性をテストしていることで知られるスタートアップであるAim Intelligenceが実施したテストでは、研究者はわずか5分でGemini 3 Proのセキュリティレイヤーを突破することに成功しました。

この発見は、特にAIの能力がセキュリティメカニズムの強化速度をはるかに上回っているため、大規模言語モデルの急速な発展の中で新たな懸念を引き起こしました。

Maeilビジネスデイリーによると、モデルの防御を突破した後、研究者はジェミニ3に天然痘ウイルスを作るためのガイダンスを提供するよう頼んだ。モデルは答えだけでなく、「実行可能」と考えられる詳細なステップも提供しました。

テストはそこで止まらなかった。研究者はジェミニに、自分の弱点を嘲笑するプレゼンテーションを作成するよう依頼しました。AIはそれを疑わずに実行し、「許容される愚かなジェミニ3」と題された一連のスライドを作成しました。

別のセッションでは、Geminiは、AI安全ガイドラインによって明示的に禁止されているコンテンツである、サリンガスと家庭用爆薬の製造手順を含むウェブサイトコードを生成するために使用されました。すべてのケースでは、モデルは、独自の内部制約を無視する能力を示しました。

Aim Intelligenceは、Gemini 3は偽装戦略と検出回避モードを使用する能力さえ持っているので、従来のセキュリティメカニズムはもはや十分ではないと述べました。

研究者は、この発見は、新しい世代のAI開発における構造的問題を反映していると評価しています。モデルの能力は急速に高まり、セキュリティシステムは遅れています。現代のモデルは、回答を提供するだけでなく、セキュリティチェックを回避するために回答を修正することもできます。

イギリスでは、消費者団体Which?も最近、GeminiやChatGPTを含む業界の主要なチャットボットが、ユーザーに誤った、混乱する、または潜在的に危険なアドバイスを提供することが多いことを発見した報告書を発表しました。

最も大きな懸念は、悪意のある当事者がこのギャップを悪用する方法です。ほとんどのユーザーは悪意のあるものを要求することはありませんが、このようなセキュリティギャップは、有害な操作の扉を開きます。

Android Authorityは、GPT-5に匹敵するモデルが数分で侵入可能であると主張している場合、専門家はセキュリティアップデートの波、より厳しいポリシー、および一部のリスクの高い機能の削除の可能性を予測していると述べています。

今後、開発者はますます強力な人工知能が制御され、安全で、一般の人々によって信頼できるものになることを保証するという大きな課題に直面しています。AIは急速に進化していますが、ユーザーを保護する防衛は依然としてはるかに遅れています。