巴尔的摩市政府对埃隆·马斯克（Elon Musk）拥有的公司，包括X Corp.、xAI和SpaceX提起诉讼，指控他们滥用其人工智能（AI）工具，未经许可就制作了性深假内容。
该诉讼于3月24日提交给巴尔的摩地区法院，该诉讼称，Grok允许用户生成和操纵真实人物的图像，使其成为色情，贬低或其他有害内容。
该功能甚至可以用于数字“脱衣”或对个人进行性化，包括平民和儿童。
巴尔的摩市长布兰登·M·斯科特（Brandon M. Scott）表示，这种深度伪造的影响非常严重，使巴尔的摩居民容易受到严重的隐私侵犯，骚扰和心理伤害。
“我们谈论的是允许对儿童进行性剥削的技术公司。我们的城市不会袖手旁观，让这种情况继续下去，这是对隐私，尊严和公共安全的威胁，必须追究责任人的责任，“斯科特在一份官方声明中说。
此外，市政府认为，被告通过将Grok作为一种安全多功能的AI助手进行营销，误导了公众，而没有透露滥用其生成色情内容的潜力。
尽管有公众声称禁止此类内容，但实际上，该系统据称仍然可以根据用户的少量命令制作类似的材料。
“巴尔的摩消费者保护法旨在保护居民免受这种新型危险的侵害，”市检察官埃邦妮·M·汤普森说。
他强调，政府有义务保护公民免受新技术风险的影响。他称缺乏限制，年龄验证和内容控制是严重疏忽的形式。
在诉讼文件中，Grok的设计及其与大型社交媒体平台的集成加速了危险内容的大规模传播。
据估计，仅在几天内就产生了数百万张色情图片，其中包括数千张涉及未成年人的图片。
巴尔的摩市政府还指责该公司从高风险功能中获利，包括在滥用行为普遍存在后将其置于付费订阅计划的背后。
通过这一诉讼，巴尔的摩要求民事制裁，停止被认为违法的做法，为受害者提供赔偿，并归还非法获得的利润。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
