Grok AIが依然として許可なしに性的な画像を作成し、国際規制当局が手を下す

Grokは依然として性的な画像(写真; x @grok)を生成できます

ジャカルタ - 最近の調査は、イーロンマスクのGrok AIセキュリティシステムに深刻な欠陥を発見しました。新しい制限を適用したと主張しているにもかかわらず、チャットボットは、最新のテストで、個人の同意なしに、実際の個人の性的ニュアンスを生成することができました。

この発見は、ロイターがGrokを実際のシナリオのセットでテストした直接的な調査から来ています。その結果、特定の条件下では、Grokは、被験者の同意なしに性的画像を生成するように求められたときに、依然として独自のセキュリティプロトコルを迂回することができることが示されました。

「これはもはや仮定上のリスクの問題ではありません」とロイターの報告書からVOIは引用しました。「直接のテストは、Grokが時々、同意とプライバシーの原則に明らかに違反する要求に従うことを示しています。

実験では、9人のロイターのジャーナリストが自分自身の写真をアップロードし、Grokに特定の修正を依頼しました。与えられたプロンプトでは、ジャーナリストは写真の中の人の許可を与えなかったことを明確に述べ、さらには脆弱な状態にあると表現された。

1月中旬に行われた最初のテストでは、Grokは55の要求のうち45で性的画像を生成しました。第2ラウンドでは、43の要求のうち29がまだGrokに従っていました。ロイターは、この減少はモデルの更新またはランダム要因によるものかは不明であると述べた。

この結果は、他の大きなAIモデルからの応答とは対照的です。同じまたはほぼ同一のプロンプトがGoogleのGemini、OpenAIのChatGPT、MetaのLlamaでテストされると、3つともリクエストを拒否しました。

Grokの競合他社のボットは一般的に倫理的な警告を提供し、許可なく人の外見を変更することはプライバシーガイドラインに違反し、関連する個人に心理的影響や損害を与える可能性があると述べています。

より敏感なテストでは、Grokは、被験者が暴力の生存者であるか、以前の結果に悩まされていることを知らされた場合でも、画像を生成し続けた。この発見に反応して、Grokの開発者であるxAIは、詳細な技術的な説明を提供しなかった。

代わりに、同社は一般的な声明のみを伝えます。Grokがリクエストを拒否した場合、チャットボットは単に一般的なエラーメッセージを表示するか、明示的な同意なしに人の体像を生成しないという短い声明を表示します。

この事件は、さまざまな国の規制当局から即座に反応を引き起こしました。英国では、当局は、デジタルツールを管理できないテクノロジー企業に巨額の罰金を科すことを可能にする法律であるオンラインセーフティ法2023に違反しているかどうかを評価しています。

米国では、35の州検察官が、xAIに実施された予防措置に関する公式の明確化を求めた。カリフォルニア州検事総長は、同意なしに露骨な画像を作成することに関連する停止警告書(cease-and-desist)を送付した。

一方、Xプラットフォームは、公開投稿でGrokが性的な画像を生成することを防ぐための追加の制限を発表しました。しかし、ロイターの報告によると、プライベートチャットボットインターフェースは特定の条件下でまだそのようなコンテンツを生成できます。

欧州委員会も慎重な姿勢で対応した。EU当局は現在、プラットフォームがユーザーのプライバシーとセキュリティ保護の規則に準拠しているかどうかの調査の一環として、新しい制限の有効性を評価しています。

AI開発者への圧力は高まっている。世界的な規制当局は、フィルタリングシステムが実際に機能する実証、紙の上の約束ではなく、実証を要求している。

xAIにとって、現在の主要な課題は、より「フィルターされていない」と知られているGrokの哲学が、さまざまな国の規制当局によって義務付けられている法律、プライバシー倫理、同意の原則の規則と整合的であることを証明することです。