インド、わいせつコンテンツのAIグロッグの悪用についてXに警告

イラスト(写真:アンシュルス)

ジャカルタ - インドの電子情報技術省(MeitY)は、Grok AIが生成するポルノコンテンツの急増に関連して、ソーシャルメディアプラットフォームXに警告状を送付しました。

インドの公式放送局からの情報によると、この手紙はXコンプライアンス部門の責任者に宛てられています。

この手紙では、インドは、女性の写真やビデオを侮辱的で下品な方法で生成、公開、または共有するために、悪意のある人物によるGrok AIの悪用を強調しています。

したがって、政府は、億万長者のイーロン・マスクのプラットフォームが、違法でわいせつなコンテンツの流通を防止するデジタルプラットフォームの責任を規定する2000年の情報技術法と2021年のIT規制の規則に違反したと強調した。

インド政府はまた、Xに、AIがプラットフォームで生成するヌード、わいせつなコンテンツのホスティング、作成、拡散を防ぐための具体的な措置の証拠として、行動報告書を直ちに提出するよう求めた。

政府は、要件への不遵守は深刻に処罰され、ソーシャルメディアプラットフォームに重大な法的結果をもたらす可能性があると警告した。

最近、Xプラットフォームに直接統合されたGrok AIは、女性と未成年者を巻き込んだ無断で性的画像の作成を促進するために広く使用されています。

このAIボットは、多くのユーザーによって、簡単なテキストコマンドを指定するだけで、元の写真の被写体をデジタルで「ヌード化」またはヌード化するために使用されています。

これまで、XとxAIは、セキュリティフィルタの失敗に関する技術的な説明を提供していません。