德国准备采取法律行动打击基于AI的图像操纵

德国司法部计划在不久的将来提出一系列措施，使当局能够更有效地打击使用人工智能（AI）来操纵侵犯个人权利的图像。司法部发言人于2月9日星期五表示。

该计划是在亿万富翁埃隆·马斯克（Elon Musk）的社交媒体平台X上提供的AI聊天机器人Grok的背景下提出的，该聊天机器人正在欧洲接受调查，因为它有一个名为“辣模式”的功能。该功能允许用户生成具有色情内容的图像。

路透社的调查发现，聊天机器人上的图像生成功能被用来创建穿着暴露的女性和儿童的图像，通常未经描述的个人的同意。这种情况引发了对数字空间中个人权利保护和安全问题的严重担忧。

德国媒体部长本周早些时候敦促欧盟委员会采取法律行动，以阻止他所说的X平台上的“性骚扰工业化”。

在政府例行新闻发布会上回答有关这一争议的问题时，德国司法部发言人安娜·莱娜·贝克费尔德表示，德国正在准备通过国内法院解决这个问题。

“大规模操纵被系统地用于侵犯个人权利是不可接受的，”贝克费尔德说。 “因此，我们希望确保刑事法能够更有效地用于打击这种做法。”

Beckfeld解释说，他的部委正在努力对深度造假技术进行更严格的监管，并正在起草一项关于数字暴力的法律，以支持受害者。

他告诉记者：“我们希望使受害者更容易采取直接行动，以解决他们在互联网上的权利侵犯问题。”

他补充说，该部计划在不久的将来提交一份具体提案，尽管它无法透露正在准备的措施的更多细节。

与此同时，在对Grok图像生成功能的担忧有所减弱后，xAI公司现在将该功能限制为付费客户。埃隆·马斯克（Elon Musk）上周还表示，任何使用聊天机器人创建非法内容的人都会面临与直接上传非法材料到平台相同的后果。