印度警告X滥用AI抓取淫秽内容

印度电子和信息技术部（MeitY）已就Grok AI产生的色情内容的激增向社交媒体平台X发送了警告信。

根据印度官方广播机构提供的信息，这封信是写给X合规部门的。

在这封信中，印度强调了Grok AI被邪恶的人滥用，以贬低和粗俗的方式制作，发布或分享女性的照片或视频。

因此，该部强调，亿万富翁埃隆·马斯克（Elon Musk）的平台违反了2000年《信息技术法》和2021年《信息技术条例》的规定，该条例规定了数字平台在防止非法和不雅内容流通方面的责任。

印度政府还要求X立即提交一份行动报告，以证明其采取了具体措施，防止在其平台上托管，创建和传播由AI生成的裸体，不雅内容。

该部警告说，不遵守要求将受到严肃处理，并可能对社交媒体平台造成严重法律后果。

最近，直接集成到X平台上的Grok AI被广泛用于促进涉及女性和未成年人的未经授权的色情图像的制作。

许多用户使用这个AI机器人进行“裸体化”，只需通过简单的文本命令即可在数字上剥夺原始照片的主题。

迄今为止，X和xAI尚未就其安全过滤器的失败提供技术解释。