JAKARTA - Les derniers enquêtes ont révélé des failles graves dans le système de sécurité d’intelligence artificielle Grok d’Elon Musk. Bien qu’il ait prétendu avoir appliqué de nouvelles restrictions, le chatbot a encore été capable de produire des images à connotation sexuelle d’individus réels sans leur consentement dans un certain nombre de tests récents.
Ces conclusions proviennent d'une enquête directe de Reuters qui a testé Grok dans le cadre d'une série de scénarios réels. Les résultats montrent qu'en certaines conditions, Grok peut encore contourner son propre protocole de sécurité lorsqu'il est demandé de produire des images sexuelles sans consentement du sujet.
« Ce n’est plus une question de risque hypothétique », a-t-il dit, citant Reuters. « Les tests montrent directement que Grok respecte parfois des demandes qui violent clairement les principes d’accord et de vie privée. »
Dans l'épistemé, neuf journalistes de Reuters ont publié des photos de leur présence et ont demandé à Grok de modifier certaines choses. Dans le prompt donné, les journalistes ont explicitement mentionné que les personnes sur les photos n'avaient pas donné leur permission, et étaient evengérées dans des conditions de pénibles.
Lors du premier tour des tests effectués mi-janvier, Grok a produit des images sexuelles dans 45 des 55 demandes. Lors du second tour, sur un total de 43 demandes, Grok a encore respecté 29 d’entre elles. Reuters a noté cette baisse, mais a déclaré qu’il n’était pas clair si elle était due à une mise à jour du modèle ou à un facteur aléatoire.
Ces résultats sont très contrastes avec la réponse d’autres grands modèles IA. Lorsque le même ou presque le memème prompt est étudié sur Gemini de Google, ChatGPT d’OpenAI et Llama de Meta, les trois ont réfusé la demande.
Les bots concurrents de Grok fournissent généralement des alertes éthiques, en indiquant que modifier l'apparence d'une personne sans autorisation enfreint les directives sur la vie privée et peut avoir des répercussions psychologiques ou des pertes pour l'individu concerné.
Dans certains tests plus sensibles, Grok a même produit des images, même si on lui avait dit que le sujet était un survivant de la violence ou qu'il était perturbé par les résultats précédents. En réponse à ces conclusions, xAI, le développeur de Grok, n'a pas fourni de précisions techniques.
Au lieu de cela, l’entreprise ne fait que transmettre des déclarations générales. Dans certains cas, lorsque Grok refuse une demande, le chatbot affiche simplement un message d’erreur générique ou une déclaration brève indiquant qu’il ne produira pas d’images du corps d’une personne sans consentement explicite.
L’affaire a instantańée la réaction des regulateurs dans différents pays. En Angleterre, les autorités étaient en train d’évaluer si cette pratique violait la loi sur la santé en ligne de 2023, une loi qui permet d’infliger de lourdes amendes aux entreprises technologiques qui ne parviennent pas à controllé leurs outils numériques.
Aux États-Unis, 35 procureurs généraux d'États ont demandé une clarification officielle de xAI concernant les mesures de prévention mises en place. Le procureur général de Californie a même envoyé une lettre d'avertissement de cessation (cease-and-desist) concernant la création d'images explicites sans consentement.
En attendant, la plate-forme X a annoncé des restrictions supplémentaires pour empêcher Grok de produire des images sexuelles dans les publications publiques. Cependant, un rapport de Reuters a montré que l’interface de chat privé pouvait encore produire ce contenu dans certaines conditions.
La Commission européenne a également réagi avec prudence. Les autorites de l'UE évalue actuellement l'éffectifité des nouvelles restrictions dans le cadre d'une enquête en cours sur le respect par les plateformes des règles de protection de la vie privée et de la securité des utilisateurs.
La pression sur les développeurs d'IA augmente également. Les régulateurs mondiaux exigent des preuves concrètes que les systèmes de filtrage fonctionnent vraiment, et pas seulement des promesses sur papier.
Pour xAI, le principal défi est maintenant de prouver que la philosophie de Grok, connue pour être plus « non filtrée », peut toujours être conforme aux règles de droit, à l’éthique de la vie privée et aux principes d’approbation exigés par les régulateurs dans de nombreux pays.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
