Inde demande des améliorations à Grok, X est prêt à agir contre l'abus de contenu

JAKARTA - Le gouvernement indien a ordonné à X, la plate-forme appartenant à Elon Musk, de modifier les procédures techniques du chatbot Grok. Cette ordonnance a été rendue car Grok peut maintenant créer du contenu très vulgaire.

Le ministère indien des Technologies de l’information a obligé X à limiter la capacité de Grok à produire du contenu contenant des éléments sexuels exclus. L’entreprise a eu 72 heures pour soumettre un rapport sur la réparation du contenu de Grok.

Si X ne se conforme pas aux ordonnances émises, la plate-forme autrefois appelée Twitter perd le statut de «́protection juridiqué» dans le pays. Avec la perte de ce statut, X sera tenue responsable du contenu créé par ses utilisateurs en droit.

L’affaire a surgi après que la parlementaire Priyanka Chaturvedi a déposé une plainte concernant l’apparition d’images de femmes manipulées par Grok. Non seulement il s’agit de femmes adultes, mais le chatbot produit également du contenu inapproprié impliquant des mineurs.

En ce qui concerne le rapport, X a reconnu une erreur dans son système de sécurité. Bien que X ait agi en supprimant les images inappropriées qui ont circulé, de nombreuses autres images de Grok, qui sont encore accessibles.

« Le non-respect de ces exigences sera considéré comme grave et peut avoir des conséquences juridiques strictes pour les plateformes et les responsables concernés », a écrit le gouvernement dans sa décision écrite, citée lundi 5 janvier.

L'Inde n'est pas le premier pays à s'inquiéter des capacités de retouche d'images de Grok. La France a signalé au procureur le contenu explicite produit par Grok. Ils ont également signalé au régulateur des médias le contenu produit par Grok.

Cela a été fait pour déterminer si xAI, l’entreprise qui développe Grok, a enfreint la loi sur les services numériques de l’Union européenne. D’autre part, la partie X a déclaré qu’elle suivrait tous les utilisateurs qui utilisent la capacité de Grok à créer du contenu illégal.

« Nous prenons des mesures contre le contenu illégal sur X, y compris le contenu d’abus sexuel sur mineurs (CSAM), en le supprimant, en suspendant les comptes de manière permanente et en travaillant avec les autorités locales et les forces de l’ordre si nécessaire », a écrit X sur son compte officiel de sécurité dimanche 4 janvier.