AI 猥亵被屏蔽！欧盟准备对 AI 制作儿童虐待图像实施严格禁令

雅加达 - 欧盟开始采取法律行动，禁止产生儿童性虐待图像的人工智能实践。欧盟成员国政府于3月13日星期五提议，将这种做法正式列为该集团主要人工智能监管中的非法活动。

该提议将把能够产生儿童性虐待材料的人工智能技术纳入欧盟AI法案的法律框架，该法案是欧盟两年前通过的世界上最全面的人工智能法规。

这一举措是在全球对人工智能系统产生的色情内容日益增长的担忧中出现的，包括可以通过生成技术创建的亲密深度伪造。各国监管机构认为，该技术有可能扩大对儿童的数字剥削，并使执法变得困难。

在有报道称埃隆·马斯克（Elon Musk）拥有的公司的人工智能聊天机器人生成色情内容后，对科技公司的压力也增加了。聊天机器人Grok由马斯克的人工智能公司xAI开发，并与社交媒体平台X集成。

欧洲的一些技术监管机构目前正在调查滥用该技术的可能性。英国、爱尔兰和西班牙的监管机构与欧盟监管机构正在调查据称由Grok制作的性深假案。

新的禁令提案仍需获得欧洲议会的批准，才能正式通过。议员们计划在不久的将来就类似的提案进行投票。

如果双方同意相同的做法，那么下一步就是与欧盟委员会进行谈判，将这些变化纳入现有的AI法律框架。

预计辩论将是激烈的。欧盟委员会此前提议放宽人工智能规则的某些部分，以促进技术创新。这一举措得到了许多大型科技公司和企业家的支持，但受到民间团体和隐私保护组织的批评，他们认为该政策过于迎合大型科技公司的利益。

分析师预计，立法和谈判修改规则的过程可能需要大约一年的时间才能真正实施新规则。

这种现象揭示了现代生成技术悖论。能够写诗、制作音乐或帮助科学研究的同一台机器也可以用来创造非常破坏性的视觉操纵。在计算机科学中，算法没有道德——它只是最大化了数据的模式。道德总是来自写规则的人。