加利福尼亚检察官就性深造向xAI发送了强有力的信件

加利福尼亚州司法部长罗布·邦塔姆（照片：x @AGRobBonta）

加利福尼亚州司法部长办公室正式向Elon Musk拥有的人工智能公司xAI发送了一封停止或停止令。这是在涉嫌使用Grok聊天机器人未经同意创建性深层内容，包括涉及女性和未成年人的内容之后。

这一强有力的举措于当地时间星期五宣布，就在加利福尼亚州当局对xAI展开调查的几天后。政府认为这种做法违法，并有可能促进儿童性虐待材料（CSAM）的传播。

“今天，我向xAI发送了一封停止和停止信，要求该公司立即停止制作和分发基于深度伪造的非自愿性亲密图像和儿童性虐待材料，”加州司法部长罗布·邦塔（Rob Bonta）在官方新闻稿中表示。 “制作这种材料是非法的。我希望xAI立即遵守。加利福尼亚对CSAM采取零容忍政策。”

根据司法部长的办公室，xAI被怀疑不仅是疏忽，而且还“促进了非自愿裸体的大规模生产”。他们说，这些材料已被用于在各种互联网平台上骚扰妇女和女孩。当局向xAI规定了五天的最后期限，以证明他们已经采取了具体措施来阻止这种做法。

主要关注点在于Grok的“辣模式”功能，该功能明确用于生成成人内容。据称，正是这种功能为未经许可的性深造提供了巨大的漏洞。尽管xAI声称自上周三以来，它已经收紧了对图像编辑功能的限制，但加州当局认为这一举措还不够。

Grok的问题不再是本地规模。据报道，日本，加拿大和英国也进行了类似的调查。与此同时，马来西亚和印度尼西亚选择采取快速行动，暂时屏蔽该平台。随着全球升级，xAI面临的压力越来越大，不仅来自美国州监管机构。

X安全帐户之前曾试图与用户的非法活动保持距离。 “任何使用或命令Grok创建非法内容的人都会受到与上传非法内容相同的后果，”该帐户写道。然而，这一声明似乎还不足以平息批评。

媒体试图要求xAI的正式回应也陷入僵局。TechCrunch还报道说，他们的评论请求只得到了一个自动电子邮件的回应，上面写着“遗留媒体谎言”。加利福尼亚司法部长办公室本身表示，它愿意就案件提供额外的背景。

Grok案件增加了免费生成式AI时代道德问题的一长串。非自愿性色情内容的激增已成为跨平台问题，而不仅仅是X的。这个问题甚至引起了美国国会的注意。1月15日星期四，多名国会议员致函X，Reddit，Snap，TikTok，Alphabet和Meta等大型科技公司高管，质疑他们如何应对性deepfake的兴起。

对监管机构而言，信息很明确：人工智能创新可以快速发展，但法律制动必须继续发挥作用。否则，本应智能的技术反而会变成大规模骚扰的工具。