Le scandale de l'IA Grok Me a éclaté en France, Deepfake a violé des femmes et des adolescents, le procureur a baissé les bras

JAKARTA - Les autorités françaises ont ouvert une enquête sur la prolifération de contenu sexuel deepfake produit par Grok, une intelligence artificielle intégrée à la plate-forme X. Cette mesure a été prise après que des centaines de femmes et d’adolescentes ont signalé que des photos de leur personne sur les médias sociaux avaient été manipulées pour devenir des images de nu sans consentement.

Le parquet de Paris a déclaré à POLITICO que l'enquête portait sur des milliers de contenus explicites non consensuels créés avec Grok et largement diffusés sur X. L'affaire pourrait être sanctionnée d'une peine pouvant aller jusqu'à deux ans de prison et d'une amende maximale de 60 000 euros.

Deux députés français, Arthur Delaporte et Eric Bothorel, ont officiellement signalé le cas au procureur le 2 janvier. Les deux ont jugé cette pratique une grave violation de la dignité humaine, en particulier parce qu'elle visait des femmes et des mineurs.

Dans sa lettre au procureur, vue par POLITICO, Delaporte a affirmé que la manipulation de photos basées sur l’IA était une forme de violence numérique qui humiliait les victimes et était effectuée sans le moindre consentement.

Le bureau des affaires numériques français a déclaré que trois ministres avaient participé à la signalement du contenu, à savoir le ministre de l'Economie et de l'Industrie Roland Lescure, la ministre déléguée à l'IA et aux affaires numériques Anne Le Hénanff, et la ministre de l'Égalité Aurore Bergé. Le rapport a également été transmis à la plate-forme de surveillance en ligne du gouvernement, Pharos, afin de promouvoir l'élimination rapide du contenu.

La Haut-Commissaire à la protection de l'enfance de France, Sarah El Haïry, a exprimé sa colère contre cette pratique et souligné la nécessité d'une protection plus forte des enfants contre les abus de l'intelligence artificielle.

Cette affaire renforce une enquête ouverte précédemment par l'unité française de cybercriminalité contre X. L'enquête portait à l'origine sur la diffusion de contenu antisémite et de négation de l'Holocauste par Grok, avant d'être élargie en novembre.

Jusqu'à la publication de cet article, X n'a pas donné de réponse officielle. Dans un message, le compte Grok a reconnu qu'il y avait eu des cas limités où les utilisateurs avaient réussi à produire des images d'IA d'enfants en vêtements minces, bien qu'il s'agisse d'une exception.

Grok a déclaré qu’elle avait mis en place des mesures de sécurité, mais qu’elle continuait à apporter des améliorations pour bloquer complètement de telles demandes. La Commission européenne n’a pas non plus commenté le cas.

L'affaire met à nouveau en lumière le côté obscur de l'intelligence artificielle générative, alors que la technologie censée être révolutionnaire se transforme en un outil de harcèlement de masse dans l'espace numérique.