Inde met en garde contre X concernant l'abus de Grok AI pour le contenu vulgaire
JAKARTA - Le ministère indien de l’électronique et des technologies de l’information (MeitY) a envoyé une lettre d’avertissement à la plate-forme de médias sociaux X concernant la prolifération de contenu pornographique produit par Grok AI.
Selon des informations de l'agence de presse officielle indienne, la lettre était adressée au chef de la conformité X.
Dans la lettre, l'Inde a souligné l'abus de Grok AI par des personnes malveillantes, pour produire, publier ou partager des images ou des vidéos de femmes de manière humiliante et vulgaire.
Le ministère a ainsi affirmé que la plate-forme du milliardaire Elon Musk avait enfreint les dispositions de la loi sur la technologie de l’information de 2000 et du règlement sur la technologie de l’information de 2021, qui régissent la responsabilisation des plateformes numériques dans la prévention de la circulation de contenu illégal et obscène.
Le gouvernement indien a également demandé à X de soumettre immédiatement un rapport sur les mesures prises comme preuve des mesures concrètes prises pour empêcher l’hébergement, la création et la diffusion de contenu obscène généré par l’IA sur sa plate-forme.
Le ministère a prévenu que le non-respect des exigences serait pris au sérieux et pourrait entraîner de lourdes conséquences juridiques pour les plateformes de médias sociaux.
Plus récemment, Grok AI, directement intégré dans la plate-forme X, a été largement utilisé pour faciliter la création d'images sexuelles non autorisées impliquant des femmes et des mineurs.
Ce bot AI est utilisé par de nombreux utilisateurs pour effectuer un « nudification » ou dévêtir un sujet photographique original de manière numérique en lui donnant simplement une commande texte simple.
Jusqu'à présent, X et xAI n'ont pas donné de précisions techniques sur l'échec de leur filtre de sécurité.