イギリスのジェス・アサト議員、xAIを訴える、性的なディープフェイクを作るために使用されたと主張するグロック

ジャカルタ - イーロン・マスクのAI企業xAIは、チャットボットが許可なく自分の偽の性的画像やビデオを作成するために使用されたと疑われているため、英国の議員ジェス・アサトが訴訟を起こした。

6月4日木曜日のミラーから引用されたように、アサトはグロックを批判した後に標的にされました。AIツールは、女性と子供の偽の性的画像を作成するために多くのユーザーによって使用されると言われています。

アサトの写真はインターネットから撮影され、その後、ビキニを着た彼のディープフェイク画像に変換されました。ディープフェイクは、本物のように見えるようにAIの助けを借りて作成された偽の画像またはビデオです。

また、自分が催眠状態にあり、性的暴行のために準備されているかのように描かれた偽のビデオもあります。

ローステフトの議員であるアサトは、これまで女性と女児に対する暴力の問題に積極的に取り組んできました。彼はまた、ポルノディープフェイクにされた女性の画像を含む他の事件を強調した。

「私は、Grokを所有し、設計するElon Muskの会社であるxAIに対して訴訟を起こしました」とAsato氏はThe Mirrorに引用されたように言いました。

彼は、彼の写真が同意なしに使用され、女性を貶める偽の性的画像やビデオに変換されたと述べた。

「私はそれが非常に恥ずかしいと感じ、私自身を傷つけた」と彼は言った。

浅戸は、Grokの影響を見て怒り、xAIが十分な保護を提供していないと判断したことを認めた。彼によると、彼の弁護士を指名した後、彼のAI画像が削除された。

「もちろん、誰もがこれをやるために弁護士に支払う余裕があるわけではありません」と彼は言いました。

浅野氏は、そのような写真やビデオは最初から作られるべきではないと評価した。GrokのようなAIツールは、女性や子供を保護するための十分なセキュリティなしに設計されていると彼は言った。

「イーロン・マスクは、グロックにはこのセキュリティがないことを知っています」と浅野氏は言いました。グロックが作成されて以来、このツールが違法な可能性のある資料を生成するために悪用される可能性があるという警告があったと彼は言いました。

ミラーによると、アサトの訴訟は水曜日に高等裁判所に提起され、被告としてxAIが挙げられた。この事件は、議員の画像を操作することを可能にすると判断されたGrokの設計を中心に展開しています。

これが認められた場合、この事件は、AI開発者がシステムの設計に責任を負う程度をテストすることができます。

浅野氏はまた、この事件がデジタル空間での合意の意味についての議論を開くことを望んでいる。

アサトを代表するAWOの弁護士であるラヴィ・ナイックは、誰もがそのような虐待を経験すべきではないと述べた。彼はまた、被害者は偽の画像を削除するために弁護士を雇う必要はないと判断した。

「このコンテンツは、xAIのエンジニアが作成したデザインオプションのために存在します」とNaik氏は述べています。

ナイク氏によると、AI開発においてユーザーの安全は後回しにはならない。

ミラーは、グロックの醜聞がマスクのXプラットフォームでの性的なディープフェイクの流行に続いて世界的な怒りを引き起こしたと報じた。

子供の性的搾取を監視するインターネットウォッチ財団は、アナリストがGrokを使用して作成されたと思われる子供の違法な画像を発見したと述べた。

イギリスのキー・スターマー首相は、グロックとXの行動を「嫌悪と恥」と呼んだ。

イギリスのテクノロジー大臣であるリズ・ケンドールも、グロックが作成した画像を「嫌がらせの武器」と呼んだ。その後、英国は同意なしに親密な画像の作成または作成の試みを禁止しました。

広範な圧力を受けた後、Xは英国の法律を完全に遵守するための措置を講じることを表明した。