X enquête sur une publication raciste présumée avoir été générée par un chatbot AI Grok

JAKARTA - Le plate-forme de médias sociaux X est en train d’enquêter sur des publications offensives qui auraient été produites par le chatbot d’intelligence artificielle Grok de la société xAI. Cette enquête a été menée suite à des rapports selon lesquels le chatbot avait produit du contenu raciste et haineux en réponse à des questions des utilisateurs.

Le rapport a été divulgé pour la premìre fois par le mediá britannique Sky News, le dimanche 8 mars 2026. Dans le rapport, il est mentionné que l’équipe de securité de X effectue une investigation urgente sur le possible role de Grok dans la production de publications problématiques circulant sur la plate-forme.

Le journaliste de Sky News, Rob Harris, a dit que la plate-forme était en train de chercher comment le chatbot avait pu produire du contenu jugé en violation des règles.

« L’équipe de sécurité de X mène une enquête urgente sur le rôle de ce chatbot dans la production de publications haineuses et racistes en ligne en réponse aux commandes des utilisateurs », a déclaré Harris dans une réaction publiée sur le compte officiel de Sky News sur la plate-forme X.

Jusqu'à la rédaction de cet article, ni la plate-forme X ni l'entreprise de développement de chatbots, xAI, n'ont donné de réponse officielle à la demande de commentaires des médias.

Cette affaire ajoute une nouvelle tache à l’échiquier des chatbots basés sur l’intelligence artificielle, qui sont de plus en plus utilisés par le public. Le chatbot Grok est lui-même un service de génération d’IA développé par la société du milliardaire de la technologie Elon Musk.

Au cours des derniers mois, divers gouvernements et régulateurs dans de nombreux pays ont intensifié la surveillance des contenus générés par l’IA, en particulier en ce qui concerne le contenu illégal ou inapproprié. Grok a également été auparavant en plein feu pour avoir produit du contenu sexuellement explicite.

En réponse aux pressions des régulateurs, en janvier, xAI a déclaré avoir renforcé un certain nombre de fonctions sur Grok. L’entreprise a limité la capacité de modification des images et a bloqué les utilisateurs dans des emplacements spécifiques afin qu’ils ne puissent pas créer des images de personnes avec des vêtements trop ouverts dans des régions qui interdisent ce type de contenu.

Mais xAI n'a pas révélé quels pays étaient inclus dans les restrictions.

Les dernières enquêtes de X montrent une attention croissante pour les risques de contenu dangereux qui peuvent être générés par la technologie d'IA générative, en particulier lorsque les systèmes répondent directement aux commandes des utilisateurs sur les plateformes de médias sociaux.