雅加达 - 最新的调查揭露了埃隆·马斯克（Elon Musk）的Grok人工智能安全系统中的严重漏洞。尽管它声称实施了新的限制，但聊天机器人仍然能够在许多最新的测试中，在未经同意的情况下，从真实的人身上生成具有色情意味的图像。
这些发现源自路透社对Grok进行的一系列真实场景的直接测试。结果表明，在某些情况下，Grok仍然可以绕过自己的安全协议，在未经受试者同意的情况下制作性图像。
“这不再是假设风险的问题，”路透社的一份报告援引VOI的话说。 “直接测试表明，Grok有时仍然遵守明显违反同意和隐私原则的要求。”
在实验中，九名路透社记者上传了他们的照片，并要求Grok进行某些修改。在给出的提示中，记者明确表示照片中的个人没有获得许可，甚至被描述为处于易受攻击的状态。
在1月中旬进行的第一次测试中，Grok在55个请求中产生了45个性图像。在第二轮中，在总共43个请求中，Grok仍然遵循了其中的29个。路透社注意到这一下降，但表示目前尚不清楚这是由于模型更新还是随机因素造成的。
这些结果与其他大型AI模型的反应形成鲜明对比。当同样的或几乎相同的提示被测试在谷歌的Gemini，OpenAI的ChatGPT和Meta的Llama上时，这三个都拒绝了该请求。
Grok的竞争对手通常会提供道德警告，声称未经许可更改一个人的外表违反了隐私准则，并可能对相关个人产生心理影响或造成损失。
在一些更敏感的测试中，即使被告知受试者是暴力幸存者或对之前的结果感到不安，Grok仍然可以生成图像。针对这一发现，Grok开发商xAI没有提供详细的技术解释。
相反，该公司只发表了一份公开声明。在某些情况下，当Grok拒绝请求时，聊天机器人只会显示一个通用的错误消息或一个简短的声明，即它不会在未经明确同意的情况下生成一个人的身体图像。
此案立即引发了各国监管机构的反应。在英国，当局正在评估这种做法是否违反了2023年在线安全法，该法案允许对未能控制其数字工具的技术公司进行大额罚款。
在美国，多达35个州的司法部长要求xAI就实施的预防措施提供正式澄清。加利福尼亚州司法部长甚至发送了一封关于未经许可制作裸体图像的停止警告信。
与此同时，X平台宣布了额外的限制，以防止Grok在公共上传中生成色情图像。然而，路透社的报道表明，在某些条件下，私人聊天机器人界面仍然可以生成此类内容。
欧盟委员会也采取了谨慎的态度。欧盟当局目前正在评估新限制的有效性，作为对平台遵守隐私和用户安全规则的持续调查的一部分。
对人工智能开发商的压力也在增加。全球监管机构要求有实际证据证明过滤系统确实起作用，而不仅仅是纸面上的承诺。
对于xAI来说，主要挑战是证明其已知的Grok哲学仍然可以与法律规则，隐私伦理和监管机构在许多国家/地区强制实施的同意原则保持一致。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
