ジェミニ3プロの穴!韓国のレポートは、Google AIがバイオウェーブについて話すことができることを明らかにします

GoogleはGemini 3 Proを同社の最も先進的な製品の1つとして位置付けています

ジャカルタ - Googleは、ジェミニ3プロの野蛮な能力のために再び称賛されていますが、韓国からの新しい報告書は、突然、警戒的なトーンでその物語に襲いました。

Maeil Business Newspaperによると、Aim IntelligenceというAIセキュリティ会社は、セキュリティシステムの鉄の壁の後ろにあるはずの生物学的脅威とキットウイルスの作り方についての答えを与えるために、モデルをハッキングすることに成功したと主張しています。

Aim Intelligenceは、制御された環境テストでは、Gemini 3 Proは滑り落ちただけでなく、厳格なセキュリティモデルによって完全にブロックされるはずの詳細にも本当に答えたと述べています。

レポートはまた、このモデルは追加のプロンプトで誘導された後、要求されたことのない自己燃焼のように、奇妙なプレゼンテーション「Excused Stupid Gemini 3」を作成するまで、それまでと異なると述べています。

どの出力やメソッドも公開されていないため、信頼性レベルと実験の再現可能性はまったく検証できません。プロンプトなし、技術文書なしで、結果は、有効と見なされる前に堅い証拠を必要とする一方的な主張だけです。

それでも、この主張はAIの世界の敏感なポイントに当たっています。モデルがよりスマートになるほど、安全な軌道に沿ってそれを維持することを保証することが難しくなります。最近、質問が詩に変換されたときに危険な質問に答えるモデルから、AIベースのガジェットが誤って子供に不適切なコンテンツを提供するまで、いくつかの事件。これは、紙の上のきちんとしたガードレールが、モデルが予期しない方法で押されたときにまだ穴を開けることができることを示しています。

Google自身はGemini 3 Proを最も先進的な製品の1つとして位置付け、セキュリティに大きな重点を置いています。しかし、韓国からの報告は圧力を増やしました。一般の人々は、最も積極的なシナリオでさえ、編集されたデモプレスのときにだけでなく、システムが本当に安全であるという実証を望んでいます。

現在、質問は答えよりも多い。Googleは説明を開く必要があり、この発見を主張する研究者は、この問題が懸念されるままにされれば、信頼を失うよりもはるかに速い透明性が必要であると主張している。AIの世界は急速に進化していますが、この種のセンシティブな問題がぶら下がっていると、一般大衆の信頼ははるかに速く失われます。