ハッカーはGoogleジェミニを介してユーザーを誘惑する新しい方法を見つける

Google Geminiからの電子メールの概要は、パーキングによって侵害される可能性があります(写真;x @TechTrendsJPからは)

ジャカルタ - ハッカーは、フィッシング目的でGoogleジェミニを使用する新しい方法を見つけました。ある研究者は、この抜け穴を見つけ出し、抜け穴の使用方法を実証することに成功しました。

Googleは回答し、ユーザーを安心させようとし、研究者が示した方法でジェミニが操作されたという証拠は見つからなかったことを認めている。

ギャップはGoogle Gemini、特にGoogle Gemini for Workspaceで検出されており、攻撃者はフィッシング目的で電子メールの要約をハイジャックできます。

では、ここで正確に何が起こっているのでしょうか?Google Geminiは悪用して、正当に見える電子メールの概要を作成できますが、実際にはそうではありません。この概要には、ユーザーをフィッシングサイトに誘導する悪意のある指示や警告が含まれる場合があります。

昨年、同様の攻撃が報告されたことを覚えている人もいるかもしれません。Googleはセキュリティ対策を実施していますが、同じ手法がまだ機能しているようです。

この脆弱性は、MozillaのジェネレーティブAIツールに対する報酬バグプログラムであるOdinを通じて明らかになりました。それを明らかにした研究者は、MozillaのGenAI報酬バグプログラムマネージャーであるMarco Figueroaでした。

それはどのように機能しますか?攻撃者はジェミニの隠された指示で電子メールを作成しました。攻撃者は、フォントサイズをゼロに設定し、色を白に設定するHTMLとCSSを使用して、メッセージのテキストの本体の最後に悪意のある指示を隠すことができます。

このような設定のため、その指示はGmailに表示されません。添付ファイルやリンクが含まれていないことを考えると、メッセージは潜在的なターゲットの受信トレイに到達し、スパムフォルダに残らないか、すぐにブロックされる可能性が最も高いです。メールを受け取った人がジェミニにメールの概要を作成するように依頼した場合、GoogleのAIツールは隠された指示を解析して従います。

BleepingComputerはGoogleにコメントを求めており、広報担当者はコマンド注入攻撃に対するセキュリティ対策に関するGoogleのブログ記事を指摘した。また、「私たちは、モデルがこの種の不正な攻撃を生き残るように訓練する赤いテーミング演習を通じて、すでに強力な防御を強化し続けています」と述べています。

彼はまた、Googleはフィゲロアが実証した方法でジェミニを操作した事件の証拠を見ていないと述べた。