L'élu britannique Jess Asato poursuit xAI, Grok censé avoir été utilisé pour créer des deepfakes sexuels
JAKARTA - Le député britannique Jess Asato a poursuivi xAI, la société d’intelligence artificielle d’Elon Musk, après que le chatbot Grok aurait été utilisé pour créer des images et des vidéos sexuelles de lui sans autorisation.
Citant The Mirror, jeudi 4 juin, Asato a été la cible d’une critique de Grok. L’outil IA est utilisé par de nombreux utilisateurs pour produire des images sexuelles faussées de femmes et d’enfants.
La photo d’Asato a été prélev́e sur Internet, puis manipulée pour ressembler à une image où il s’agit d’une image de l’acteur.
Il y a aussi des vidéos fausses qui le dépeignent comme si on l'avait drogué et préparé pour des violences sexuelles.
Asato, membre du Parlement de Lowestoft, a été actif sur les questions de violence contre les femmes et les filles. Il a également mis en lumière d’autres cas, y compris des photos de femmes qui ont été rendues pornographiques par deepfake.
« Je me suis vu imposer une action en justice contre xAI, la société de Elon Musk qui possède et conçoit Grok », a déclaré Asato, cit́é par The Mirror.
Il a dit que sa photo avait été utilisée sans son consentement, puis transformée en images et vidéos sexuelles fausses qui dénigrent les femmes.
« Je me suis sentie très humiliée et violée », a-t-elle dit.
Asato a avoué avoir été en colère en voyant l’impact de Grok et a estimé que xAI n’avait pas assez de protection. Selon lui, la photo d’IA de lui n’a été rémoliée qu’une fois qu’il avait nommé un avocat.
« Bien sûr, tout le monde n’a pas les moyens de payer un avocat pour faire ça », a-t-il dit.
Asato estime que de telles images et vidéos ne devraient pas avoir pu être faites depuis le début. Il a dit que des outils d’IA comme Grok ont été conçus sans suffisamment de mesures de sécurité pour protéger les femmes et les enfants.
« Elon Musk sait que Grok n’a pas cette protection », a déclaré Asato. Il a déclaré qu’il y avait des avertissements depuis que Grok a été créé que l’outil pouvait être utilisé de manière abusive pour produire du materiel potentiellement illicite.
Selon The Mirror, la demande d’Asato a été présentée au Tribunal de grande instance mercredi, avec xAI comme partie civile. L’affaire tourne autour de la conception de Grok qui est jugée permettre la manipulation des images des membres du Parlement.
Si elle est acceptée, cette affaire pourrait tester dans quelle mesure les développeurs d'IA sont responsables de la conception de systèmes faciles à mal utiliser.
Asato espère également que cette affaire ouvrira un débat sur le sens de l'accord dans l'espace numérique.
Ravi Naik, un avocat de l’AWO qui représente Asato, a déclaré qu’aucun être humain ne devrait subir de telles agressions. Il a également estimé que la victime ne devrait pas avoir à embaucher un avocat juste pour supprimer une image fausse.
« Ce contenu existe en raison du choix de la conception fait par les ingénieurs de xAI », a déclaré Naik.
Selon Naik, la sécurité des utilisateurs ne doit pas être pensée en dernier dans le développement de l'IA.
Le Mirror a rapporté que le scandale Grok a provoqué une indignation mondiale suite à la proliferée de deepfakes sexuels sur la plate-forme X de Musk.
L’Internet Watch Foundation, un organisme de surveillance de l’exploitation sexuelle des enfants, a déclaré que ses analystes avaient trouvé des images illégales d’enfants qui semblent avoir été créées avec Grok.
Le Premier ministre britannique Keir Starmer a qualifié les actions de Grok et X de « dégoûtantes et honteuses ».
La ministre britannique des Technologies, Liz Kendall, a également qualifié les images créées par Grok de « arme d’agression ». L’Angleterre a ensuite interdit la création ou la tentative de création d’images intimes sans consentement.
Après avoir subi de fortes pressions, X a déclaré qu'il prendrait des mesures pour garantir le plein respect de la loi britannique.