荷兰法院裁定：未经许可，禁止AI制作裸体照片 

荷兰阿姆斯特丹 - 荷兰一家法院对埃隆·马斯克（Elon Musk）的人工智能技术做出了罕见但严厉的裁决。在中间裁决中，阿姆斯特丹法院命令xAI公司和聊天机器人Grok停止制作和分发未经明确同意“剥夺衣服”的人的图像 - 无论是成人还是儿童。

此举是欧洲首批直接针对AI生成能力的法律干预措施之一，该能力可创建非自愿性色情内容，这是一个在“nudifier”技术使用激增中日益热门的问题。

法院确认，未经许可，Grok不得制作或传播显示裸体或半裸体个体的图像。如果违反，xAI面临每天高达100,000欧元的罚款 - 这是一笔足以让CFO感到不安的数字。

不仅如此，法院还命令，只要Grok服务违反了这些条款，它就不应该在X平台上提供。

此案由非营利组织Offlimits与受害者支持基金会提出，该基金会一直积极处理基于数字的性暴力案件。在听证会上，原告表示，即使xAI声称已经收紧了安全系统，Grok仍然能够操纵人的图像成为未经授权的性内容。

Offlimits的董事Robbert Hoving表示，责任不能完全转移到用户身上。“企业有责任确保他们的技术不被滥用，”他说。

另一方面，xAI方面辩称，他们无法完全防止恶意用户滥用。他们还提到，他们限制了某些功能，包括只向付费用户开放图像生成功能。然而，法官认为这一举措还不够。

这一裁决是在欧盟通过数字服务法案对人工智能技术进行严格审查的背景下作出的。事实上，欧盟委员会此前已对X平台展开调查，调查了AI产生的非法内容的风险，包括对露骨图像的操纵。

欧洲议会也加入了紧张局势，支持禁止可以创建虚假性图像的人工智能应用程序 - 这标志着欧洲的“自由实验人工智能”时代开始被“严格监督的人工智能”时代所取代。

更广泛地说，这一裁决可能成为全球AI行业的重要先例。如果这一趋势继续下去，科技公司将不再能够简单地说“我们只是制造工具” - 因为法律开始将他们视为对影响负责的一方。

关注VOI Whatsapp频道