Le régulateur britannique demande des explications à X concernant le contenu vulgaire créé par Grok

L'Angleterre enquête sur le contenu vulgaire de Grok sur X (photo: x @elonmusk)

JAKARTA - Ofcom, le régulateur des médias en Grande-Bretagne, a exigé des explications de X concernant la fonction de modification de Grok. Cette demande a été faite après que le chatbot basé sur l’intelligence artificielle (IA) a été utilisé pour produire du contenu abusif.

Grok est récemment redevenu populaire en raison de sa capacité d’édition d’images. Cependant, cette capacité d’édition d’images assez précise est souvent abusée pour produire du contenu vulgaire. La plupart du contenu d’agression produit vise les femmes et les mineurs.

Ofcom a exhorté X et xAI, en tant que développeurs de Grok, à fournir des détails sur les mesures de protection qu’ils ont mises en place. Par cette enquête, Ofcom déterminera si X a manqué à ses obligations légales en matière de protection des utilisateurs en Grande-Bretagne.

La loi britannique interdit la création ou la diffusion d'images obscènes sans consentement, y compris les résultats générés par l'IA. Les plateformes technologiques sont également tenues de prévenir les utilisateurs de trouver du contenu illégal et de le supprimer le plus rapidement possible.

« Nous avons pris contact avec X et xAI pour comprendre les mesures prises pour se conformer à leurs obligations juridiques », a déclaré un porte-parole d’Ofcom, citant Reuters mardi 6 janvier.

La demande d'Ofcom a surgí suite à l'enqutére de plusieurs autres pays sur les capacités d'editéré des images de Grok. Le gouvernement français a réporté l'affaire au procureur local, tandis que le gouvernement indien enquitté sur les résultats du contenu et exige des explications et des correctifs pour le contenu vulgaire qui circule.

Contrairement aux réactions violentes en Europe et en Asie, le gouvernement fédéral des États-Unis n’a pas encore fait de déclaration. Des institutions telles que la Commission fédérale de la communication et le ministère de la Justice sont signalées comme étant silencieuses sur cette question.