Grok Bikin Panas, le procureur de Californie envoie une lettre ferme à xAI concernant les Deepfake Sexuels

JAKARTA - Le bureau du procureur général de Californie a officiellement envoyé une lettre d’avertissement à xAI, l’entreprise d’intelligence artificielle d’Elon Musk. Cela a été fait suite à l’utilisation présumée du chatbot Grok pour créer du contenu sexuel deepfake sans consentement, y compris celui impliquant des femmes et des mineurs.

Cette mesure ferme a été annonçeée vendredi, quelques jours seulement après que les autorités californiennes avaient ouvert une enquてte sur xAI. Le gouvernement estime que cette pratique est illégale et peut potentiellement faciliter la diffusion de materiel d’abus sexuel sur mineurs ou de materiel d’abus sexuel sur mineurs (CSAM).

« Aujourd’hui, j’ai envoyé une lettre de cessation et d’interdiction à xAI, exigeant que l’entreprise cesse immédiatement la création et la distribution d’images intimes non consensuelles basées sur des deepfakes et du matériel de pornographie juvénile », a déclaré le procureur général de Californie, Rob Bonta, dans un communiqué officiel. « La création de ce type de matériel est illégale. J’espère vraiment que xAI se conformera rapidement. La Californie a un zéro tolérance pour le CSAM. »

Selon le bureau du procureur général, xAI est soupçonné de ne pas seulement avoir échoué, mais de « faciliter la production à grande échelle » d’images de nus non consensuelles. Le matériel, ont-ils dit, a été utilisé pour harceler des femmes et des filles sur diverses plateformes Internet. Les autorités ont donné à xAI cinq jours pour prouver qu’ils avaient pris des mesures concrètes pour mettre fin à cette pratique.

L’accent principal est mis sur la fonction « mode épicé » de Grok, qui est explicitement désignée pour produire du contenu adulte. C’est cette fonction qui est censée avoir ouvert un grand creux pour la fabrication de deepfakes sexuels sans autorisation. Bien que xAI affirme avoir réstringé les restrictions sur la fonction d’editérée d’images depuis mercredi dernier, cette mesure n’a pas été suffisante par les autorités de Californie.

Le problème de Grok n’est plus à l’échelle locale. Le Japon, le Canada et la Grande-Bretagne auraient ouvert des enquêtes similaires. Entre-temps, la Malaisie et l’Indonésie ont choisi une approche rapide en bloquant temporairement la plate-forme. Avec cette élévation mondiale, la pression sur xAI est déjà ressentie, non seulement des regulateurs des états-Unis.

Le compte de sécurité X a auparavant tenté de prendre ses distances avec les activités illégales des utilisateurs. « Quiconque utilise ou ordonne à Grok de produire du contenu illégal subira les mêmes conséquences qu’en téléchargeant lui-même du contenu illégal », a écrit le compte. Mais cette déclaration ne semble pas avoir été suffisante pour calmer les critiques.

Les tentatives des médias pour obtenir une réponse officielle de xAI se sont également terminées en vain. TechCrunch a également rapporté que leur demande de commentaires n’a été réponse qu’a un e-mail automatistié indiquant « Legacy Media Lies ». Le bureau du procureur gendréral de Californie a également déclaré qu’il est préparé à fournir des contextés additionnels concernant cette affaire.

Le cas de Grok ajoute à la longue liste des questions éthiques à l'ère de l'IA générative gratuite. L'explosion de contenu sexuel non consensuel est un problème transfrontalier, pas seulement celui de X. Ce problème a même attiré l'attention du Congrès américain. Le jeudi 15 janvier, un certain nombre de membres du Congrès ont envoyé une lettre aux dirigeants de grandes entreprises technologiques telles que X, Reddit, Snap, TikTok, Alphabet et Meta, s'interrogeant sur leurs stratégies pour freiner la prolifération des deepfakes sexuels.

Pour les régulateurs, le message est clair : l'innovation en IA peut aller vite, mais les freins légaux doivent toujours fonctionner. Sinon, la technologie qui devrait être intelligente devient un outil de harcèlement de masse.