ジャカルタ - カリフォルニア州検察総長事務所は、エロン・マスクのAI企業xAIに停止または停止命令を正式に送付しました。これは、同意なしに性的なディープフェイクコンテンツを作成するために、女性や未成年を含むGrokチャットボットの使用が疑われた後に行われました。
この決定は、カリフォルニア当局がxAIの調査を開始した数日後に発表された。政府は、この慣行は法律に違反し、児童虐待資料(CSAM)の拡散を促進する可能性があると判断した。
「今日、私はxAIに停止と廃止の書簡を送信し、同社に非同意に基づく非同意的な親密な画像と児童ポルノの制作と配布を直ちに停止するよう求めた」とカリフォルニア州司法長官のロブ・ボンテは公式プレスリリースで述べた。「このような素材の制作は違法です。私はxAIが直ちに遵守することを強く望んでいます。カリフォルニアはCSAMにゼロの寛容さを持っています」
検察庁によると、xAIは単なる怠慢ではなく、「非同意によるヌード画像の大規模な生産を促進した」とされる。当局は、これらの資料がさまざまなインターネットプラットフォームで女性と女児を嫌がらせに使用されたと述べた。当局は、xAIに5日以内に、この慣行を停止するための具体的な措置を講じたと証明する期限を設けた。
主な注目点は、Grokの「スパイシーモード」機能です。これは、明確にアダルトコンテンツを生成するように設計されています。この機能は、無許可の性的ディープフェイクの作成に大きな隙間を開くと言われています。xAIは、先週水曜日以来、画像編集機能の制限を強化したと主張していますが、カリフォルニア当局は、この措置は十分ではないと判断しています。
グロックの問題はもはやローカルスケールではありません。日本、カナダ、英国が同様の調査を開始したと伝えられている。一方、マレーシアとインドネシアは、プラットフォームを一時的にブロックすることで迅速な措置を選択しました。この世界的エスカレーションにより、xAIに対する圧力は、米国の州規制当局からのみではなく、ますます感じられます。
Xのセキュリティアカウントは以前、ユーザーの違法な活動から距離を置くことを試みました。「違法なコンテンツをアップロードした場合と同じ結果が、違法なコンテンツを作成するためにGrokを使用または指示する人は誰でも受けます」とアカウントは書きました。しかし、この声明は批判を鎮めるには不十分なようです。
xAIへの公式の反応を求めるメディアの努力も行き詰まった。TechCrunchはまた、コメントの要求は「レガシーメディアの嘘」と記された自動電子メールでしか返答されなかったと報じた。カリフォルニア州司法長官事務所は、この事件に関する追加の文脈を提供する用意があると述べた。
Grokのケースは、無料の生成AI時代の倫理的問題の長いリストに追加されます。非同意性的な性的コンテンツの急増は、Xのものではなく、プラットフォーム横断的な問題です。この問題は、米国議会にも注目を集めています。1月15日木曜日、多くの議員は、X、Reddit、Snap、TikTok、Alphabet、Metaなどの大手テクノロジー企業の幹部に書簡を送り、性的なディープフェイクの急増を抑えるための戦略に疑問を呈しました。
規制当局にとって、メッセージは明確です。AIのイノベーションは加速することができますが、法律のブレーキは機能し続けなければなりません。そうでなければ、本来スマートなはずのテクノロジーは、大規模な虐待の道具に変わります。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
