AIのGrok Meのフランスでの爆発、Deepfakeの女性やティーンエイジャーのヌード、検察官が手を下す

ジャカルタ - フランス当局は、Xプラットフォームに統合された人工知能であるGrokによって生成された性的ディープフェイクコンテンツの急増を調査しています。何百人もの女性とティーンエイジャーが、ソーシャルメディアで自分の写真を許可なくヌード画像に変換されたと報告した後、この措置がとられました。

パリ検察庁はPOLITICOに対し、調査はGrokを使用して作成され、Xで広く流通している何千もの非合意性の露骨なコンテンツが含まれていると述べた。この事件は、最高2年の懲役刑と最高6万ユーロの罰金に処せられる可能性がある。

フランスの議員、アルトゥール・デルポルトとエリック・ボトレールは、1月2日に検察官に正式にこの事件を報告した。2人は、この慣行が、特に女性と未成年者を標的にしているため、人間の尊厳に対する深刻な侵害であると判断した。

POLITICOが見た検察官への手紙で、デルポルトは、AIベースの写真の操作は、被害者を侮辱するデジタル暴力的形態であり、まったく同意なしに行われたと主張した。

フランスのデジタル事務局は、3人の大臣がコンテンツを報告したと述べた。経済産業大臣のロラン・ルセル、AI・デジタル問題担当次官補のアンヌ・ル・ヘナン、平等の大臣オーロール・ベルジェ。報告書は、コンテンツの迅速な削除を促進するために、政府のオンライン監視プラットフォームであるPharosにも提出されました。

フランスの児童保護高等委員長であるサラ・エル・ハイリは、この慣行に怒りを表明し、人工知能の乱用から子供たちをより強く保護する必要性を強調した。

この事件は、フランスのサイバー犯罪ユニットがXに対して開いた調査を強化した。調査は当初、グロックによる反セムコンテンツの拡散とホロコーストの否定をカバーし、昨年11月に拡大されました。

このニュースが掲載された時点で、Xは公式のコメントをしていません。投稿で、Grokアカウントは、例外として主張されているにもかかわらず、ユーザーが最小限の衣服を着た未成年者のAI画像を生成することに成功した限られたケースがあることを認めています。

Grokは、セキュリティを導入したが、そのような要求を完全にブロックするために改善を続けていると述べた。欧州委員会もこの事件についてコメントしていない。

この事件は、革命的な技術がデジタル空間で大量の嫌がらせの道具に変わるというとき、生成的人工知能の暗い側面を再び強調しています。