英国议会议员杰斯·阿萨托（Jess Asato）起诉了埃隆·马斯克（Elon Musk）的人工智能公司xAI，此前据称，未经许可，Grok聊天机器人被用于制作他的假性图像和视频。
6月4日星期四从The Mirror引述，Asato成为Grok的批评目标。据称，该AI工具被许多用户用来制作虚假的女性和儿童性图像。
Asato的照片是从互联网上取的，然后被操纵成一个假深层图像，穿着比基尼。深度伪造是使用AI创建的虚假图像或视频，使其看起来像真实的图像或视频。
还有一段虚假的视频，描绘了他好像被迷晕了，并准备进行性侵。
劳斯特福特议员阿萨托一直积极参与暴力侵害妇女和女童问题。他还强调了其他案件，包括制作色情deepfake的女性照片。
“我正在对xAI提起诉讼，xAI是埃隆·马斯克（Elon Musk）拥有的公司，设计了Grok，”Asato说。
他说，他的照片未经同意就被使用，然后被转换成贬低女性的虚假性图像和视频。
“我觉得这非常令人尴尬，违背了我的意愿，”他说。
Asato承认，看到Grok的影响后，他很生气，并认为xAI没有提供足够的保护。据他介绍，只有在他指派律师后，AI才删除了他的照片。
“当然，不是每个人都能负担得起聘请律师来做这件事，”他说。
Asato认为，这样的图像和视频从一开始就不应该被创建。他表示，像Grok这样的AI工具在设计时没有足够的保护措施来保护妇女和儿童。
“埃隆·马斯克知道Grok没有这种安全措施，”浅野说。他提到，自Grok创建以来，人们已经警告说，该工具可以被滥用以产生可能违法的内容。
根据The Mirror的说法，Asato的诉讼于周三提交给高等法院，xAI是被告。这起案件的焦点是Grok的设计，该设计被认为允许操纵议员的照片。
如果被批准，该案件可能会测试AI开发人员对易于滥用的系统设计的责任程度。
Asato还希望此案能够开启关于数字空间中同意含义的辩论。
代表Asato的AWO律师Ravi Naik表示，没有人应该遭受这样的虐待。他还认为，受害者不应该雇用律师来删除虚假图像。
“这些内容是由于xAI工程师所做的设计选择而产生的，”Naik说。
Naik表示，在开发AI时，不应该把用户的安全放在最后考虑。
据《镜报》报道，在马斯克的X平台上性深伪造猖獗之后，该事件引发了全球的愤怒。
儿童性剥削监督机构互联网观察基金会表示，其分析师发现似乎使用Grok制作的儿童非法图像。
英国首相基尔·斯塔默（Keir Starmer）称，Grok和X的行为“令人厌恶和可耻”。
英国科技部长利兹·肯德尔（Liz Kendall）也称Grok的假冒照片是“骚扰武器”。英国随后禁止未经同意制作或试图制作亲密照片。
在面临广泛的压力后，X表示将采取措施确保完全遵守英国法律。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
