英国议会议员杰斯·阿萨托起诉xAI，据称Grok用于制作性深伪

英国议会议员杰斯·阿萨托（Jess Asato）起诉了埃隆·马斯克（Elon Musk）的人工智能公司xAI，此前据称，未经许可，Grok聊天机器人被用于制作他的假性图像和视频。

6月4日星期四从The Mirror引述，Asato成为Grok的批评目标。据称，该AI工具被许多用户用来制作虚假的女性和儿童性图像。

Asato的照片是从互联网上取的，然后被操纵成一个假深层图像，穿着比基尼。深度伪造是使用AI创建的虚假图像或视频，使其看起来像真实的图像或视频。

还有一段虚假的视频，描绘了他好像被迷晕了，并准备进行性侵。

劳斯特福特议员阿萨托一直积极参与暴力侵害妇女和女童问题。他还强调了其他案件，包括制作色情deepfake的女性照片。

“我正在对xAI提起诉讼，xAI是埃隆·马斯克（Elon Musk）拥有的公司，设计了Grok，”Asato说。

他说，他的照片未经同意就被使用，然后被转换成贬低女性的虚假性图像和视频。

“我觉得这非常令人尴尬，违背了我的意愿，”他说。

Asato承认，看到Grok的影响后，他很生气，并认为xAI没有提供足够的保护。据他介绍，只有在他指派律师后，AI才删除了他的照片。

“当然，不是每个人都能负担得起聘请律师来做这件事，”他说。

Asato认为，这样的图像和视频从一开始就不应该被创建。他表示，像Grok这样的AI工具在设计时没有足够的保护措施来保护妇女和儿童。

“埃隆·马斯克知道Grok没有这种安全措施，”浅野说。他提到，自Grok创建以来，人们已经警告说，该工具可以被滥用以产生可能违法的内容。

根据The Mirror的说法，Asato的诉讼于周三提交给高等法院，xAI是被告。这起案件的焦点是Grok的设计，该设计被认为允许操纵议员的照片。

如果被批准，该案件可能会测试AI开发人员对易于滥用的系统设计的责任程度。

Asato还希望此案能够开启关于数字空间中同意含义的辩论。

代表Asato的AWO律师Ravi Naik表示，没有人应该遭受这样的虐待。他还认为，受害者不应该雇用律师来删除虚假图像。

“这些内容是由于xAI工程师所做的设计选择而产生的，”Naik说。

Naik表示，在开发AI时，不应该把用户的安全放在最后考虑。

据《镜报》报道，在马斯克的X平台上性深伪造猖獗之后，该事件引发了全球的愤怒。

儿童性剥削监督机构互联网观察基金会表示，其分析师发现似乎使用Grok制作的儿童非法图像。

英国首相基尔·斯塔默（Keir Starmer）称，Grok和X的行为“令人厌恶和可耻”。

英国科技部长利兹·肯德尔（Liz Kendall）也称Grok的假冒照片是“骚扰武器”。英国随后禁止未经同意制作或试图制作亲密照片。

在面临广泛的压力后，X表示将采取措施确保完全遵守英国法律。