エイリアンAIのグロックは、女性と未成年者のポルノ写真を制作した後に世界的なスキャンダルを引き起こした

ブラジル人ミュージシャンジュリー・ユカリは、Grokを通じて他のユーザーによって自分のプライベート写真を変更されたことに気づきました

ジャカルタ - イーロン・マスクの人工知能サービスであるグロックは、女性と未成年者を巻き込んだ無断で性的画像の作成を促進したことが明らかになった後、現在大きな論争の渦中にいます。

調査報告書によると、Xプラットフォームに直接統合されたAIボットは、多くのユーザーによって「ヌード化」または単純なテキストコマンドを提供するだけで、元の写真の被写体をデジタルで裸にするために使用されています。

注目すべきケースの1つは、ブラジル人ミュージシャンであるジュリー・ユカリが、他のユーザーがGrokを通じて自分のプライベート写真を修正し、プラットフォーム上で広がったほぼ裸の写真に置き換えたことです。

Grok活動の深い分析は、このツールが写真主体を透明なビキニ、下着、その他の挑発的なポーズに変えるユーザーの要求を積極的に満たしていることを示しています。短い監視では、若い女性、公人、子供たちをターゲットにした何百ものユーザーの試みが発見されました。

悲劇的なことに、この論争がピークに達したとき、イーロン・マスクは、技術企業のリーダーがユーザーのセキュリティに対する道徳的および倫理的責任に関する鋭い批判を引き起こした、彼の個人的なアカウントでAI編集のいくつかのアップロードに笑いの絵文字で反応しているように見えました。

このスキャンダルは、国際当局から激しい反応を引き起こしました。フランス政府は、Xをセクハラと性的コンテンツの違法な拡散の容疑で検察官に正式に報告した。一方、インド情報技術省は、わいせつなコンテンツを作成するためにAIの悪用を防ぐことに失敗したと見なされたため、Xの現地部門に厳正な抗議を提出しました。

ザ・ミダス・プロジェクトなどの組織のデジタルセキュリティ専門家は、XAI画像作成技術の潜在的な悪用に関する警告は昨年から伝えられてきたが、企業によって無視されたように思われることを考えると、この事件は「予測可能な残虐行為」であると強調した。

これまで、XとxAIは、セキュリティフィルターの失敗に関する技術的な説明を提供していません。短い声明で、xAIは、プラットフォーム上の児童ポルノの流通に関する報告はメディアの嘘であると非難した。

事件の影響は、AIエンジニアリングの結果としての体のために恥じていると主張し、マスクのソーシャルメディアエコシステムの下で続くデジタル嫌がらせの波を止めるために無力だと感じたユカリのような犠牲者にとって深いトラウマを残しました。