Grok AI de Elon Musk provoque un scandale mondial après avoir produit des photos de Syur de femmes et d'enfants mineurs

JAKARTA - Le service d'intelligence artificielle d'Elon Musk, Grok, est actuellement au centre d'une grande controverse après avoir été révélé avoir facilité la création d'images sexuelles non autorisées impliquant des femmes et des mineurs.

Selon le rapport d'enquête, les bots IA intégrés directement dans la plate-forme X sont utilisés par de nombreux utilisateurs pour effectuer une « nudification » ou dénudé un sujet photographique original de manière numérique en lui donnant simplement une commande texte simple.

L'un des cas qui a attiré l'attention a été celui de Julie Yukari, une musicienne brésilienne, qui a découvert que des photos personnelles avaient été modifiées par d'autres utilisateurs via Grok en images presque nues qui ont ensuite été largement diffusées sur la plate-forme.

Une analyse approfondie de l'activité de Grok montre que l'outil répond activement à la demande des utilisateurs de transformer les vêtements des sujets photographiques en bikinis transparents, sous-vêtements, et autres poses provocantes. Dans une surveillance brève, des centaines d'efforts d'utilisateurs ciblant des jeunes femmes, des personnalités publiques, des enfants ont été trouvés.

Le plus triste, c'est que lorsque la controverse a atteint son paroxysme, Elon Musk a en fait réagi à plusieurs publications d'édition d'IA avec des émoticônes souriantes sur son compte personnel, ce qui a suscité des critiques sévères concernant la responsabilité morale et éthique des dirigeants des entreprises technologiques en matière de sécurité des utilisateurs.

Le scandale a suscité une réaction ferme des autorités internationales. Le gouvernement français a officiellement signalé X au procureur pour avoir diffusé du contenu illégal de nature sexiste et sexuelle. En attendant, le ministère indien des Technologies de l'information a adressé une mise en garde ferme à l'unité locale de X pour avoir échoué à empêcher l'utilisation abusive de l'IA pour créer du contenu obscène.

Les experts en sécurité numérique d'organisations telles que The Midas Project ont souligné que cette affaire était une « atrocité prévisible », étant donné que les avertissements concernant le potentiel d'abus de la technologie de création d'images xAI avaient été transmis depuis l'année dernière, mais semblaient avoir été ignorés par l'entreprise.

Jusqu'à présent, les parties X et xAI n'ont pas donné de précisions techniques sur l'échec de leur filtre de sécurité. Dans une déclaration succincte, xAI a accusé les médias de mentir sur les rapports concernant la circulation de photos de pornographie juvénile sur sa plate-forme.

Les répercussions de cet incident ont laissé une profonde traumatisante aux victimes, comme Yukari qui a avoué avoir honte de son corps généré par l'IA et se sentir impuissante à arrêter la vague de harcèlement numérique qui continue sous l'écosystème des médias sociaux de Musk.