埃隆·马斯克（Elon Musk）拥有的Grok人工智能聊天机器人限制了X平台上的图像创建和编辑功能，此前，国际上对滥用该功能以创建针对女性和儿童的性深伪进行了广泛的批评。从1月9日星期五开始，Grok只允许付费用户在X上创建图像功能。
Grok 直接向 X 用户宣布了这些限制。然而，与 X 分开的独立版本的 Grok 应用程序仍然允许用户生成图像，而无需订阅。
这一举措是在来自各国的压力以及对X和xAI的罚款威胁增加之后采取的。一些政府强调了Grok的功能，该功能允许用户操纵在线照片，包括删除图像中主题的衣服。欧盟委员会表示，X上流传的这种图像是非法的，“令人尴尬”。
英国数据保护监管机构还表示，它已要求X澄清其遵守数据保护法的程度，此前有担忧称，Grok制作了对女性进行性骚扰的图像。
英国首相办公室，基尔·斯塔默，强烈谴责了这一限制政策。唐宁街发言人称，将功能限制为付费客户是“侮辱受害者”和“不是解决方案”。
“它只是改变了人工智能功能，使非法图像的制作成为一个高级服务，”发言人说，“这是对厌女症和性暴力受害者的侮辱。”
欧盟委员会表示，它已经“注意到X的最新变化”。然而，欧盟数字事务发言人托马斯·雷格尼尔（Thomas Regnier）强调，这些变化并没有解决主要问题。
“这并没有改变我们的基本问题，无论是付费还是免费订阅，”Regnier告诉记者。 “我们不想看到这样的图片。就这么简单。我们要求平台确保他们的设计和系统不允许创建这种非法内容。”
作为对这一争议的回应，欧盟委员会命令X在2026年底之前保留与Grok有关的所有内部文件和数据。除了欧盟和英国，法国、马来西亚和印度也对埃隆·马斯克（Elon Musk）的平台提出了批评。
上周，马斯克表示，任何使用Grok制作非法内容的人都会面临与直接将非法材料上传到平台相同的法律后果。
Grok的争议不是第一次。去年，聊天机器人因向X用户提供反犹太主义色彩的答案而受到抨击。去年7月，人工智能公司xAI甚至在聊天机器人称赞阿道夫希特勒并发表反犹太声明后，关闭了Grok的文本回复并删除了一些上传。
这些案件进一步凸显了生成人工智能在防止滥用技术对个人和更广泛的社会造成伤害方面的作用以及数字平台的责任。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
