法国AI Grok Meledak丑闻，Deepfake Naked Women to Teenagers，检察官下台

雅加达 - 法国当局正在对由Grok生成的性深层内容的激增展开调查，Grok是一种人工智能，与X平台集成。在数百名女性和青少年报告说他们的社交媒体照片未经同意被操纵成裸体图像后，采取了这一步骤。

巴黎检察官办公室向POLITICO表示，调查包括使用Grok制作的数千份非自愿性色情内容，并在X上广泛传播。此案可能面临最高两年的监禁和最高60,000欧元的罚款。

两名法国议员，亚瑟·德尔波特和埃里克·博托雷尔，于1月2日正式向检察官报告了这一案件。两人认为这种做法严重侵犯了人的尊严，特别是因为它针对的是妇女和未成年人。

在他写给检察官的一封信中，Delaporte强调，基于AI的图像操纵是一种数字暴力形式，它贬低了受害者，并且在没有得到一点同意的情况下进行。

法国数字事务办公室表示，三名部长已报告了该内容，即经济和工业部长罗兰·勒克尔、人工智能和数字事务助理部长安妮·勒·赫南夫以及平等部长奥罗尔·贝格。报告还提交给政府在线监测平台Pharos，以促进快速删除内容。

法国儿童保护高级专员萨拉·埃尔·海里对这种做法表示愤怒，并强调需要加强对儿童免受人工智能滥用的保护。

此案加强了法国网络犯罪部门此前对X的调查。该调查最初包括Grok传播反犹太主义内容和否认大屠杀，然后于去年11月扩大。

在本报告发布之前，X尚未对此作出正式回应。在一条帖子中，Grok帐户承认，尽管它声称是例外，但仍存在有限的案例，用户成功地制作了穿着很少的未成年人AI图像。

Grok表示，该公司已经实施了安全措施，但仍在继续改进，以完全阻止此类请求。欧盟委员会尚未就该案件发表评论。

此案再次突出了生成式人工智能的黑暗面，因为被吹捧为革命性的技术实际上已经成为数字空间的大规模骚扰工具。