La Malaisie enquête sur le chatbot Grok pour son contenu vulgaire sur X

JAKARTA - La Malaisie est devenue le pays suivant à critiquer la capacité de Grok à éditer des images sur X. Le problème, c'est que le chatbot de xAI peut créer du contenu de deepfake vulgaire en modifiant des photos de femmes ou d'enfants mineurs.

Sur la base des résultats de l'enquête de la Commission malaisienne des communications et des médias numériques (MCMC), Grok a été prouvée avoir manipulé des images numériques sur X. Les images générées sont également considérées comme indécentes, offensantes et tombent dans la catégorie dangereuse pour le public.

« (nous) avons pris note avec une préoccupation sérieuse des plaintes du public concernant l’utilisation abusive des outils d’IA sur la plate-forme X, en particulier la manipulation numérique d’images de femmes et d’enfants mineurs », a déclaré le MCMC dans une déclaration officielle, citée lundi 5 janvier.

À l'heure actuelle, la MCMC étudie l'ampleur de l'impact produit par la capacité de retouche d'images. La commission enquête également sur la façon dont la technologie d'intelligence artificielle (IA) Grok peut contourner le système de sécurité éthique.

MCMC a expliqué que la création de contenu dangereux, qui comprend la création de contenu obscène et indécent, fait partie de la violation de l'article 233 de la loi sur les communications et les multimédias de 1998 (UU PPK). Si elle est jugée coupable de cette loi, X sera contrainte de se conformer à la décision du gouvernement local.

« Bien que X ne soit actuellement pas un fournisseur de services agréé, X a l'obligation de prévenir la diffusion de contenu dangereux sur sa plate-forme. MCMC enquête actuellement sur les effets néfastes en ligne sur X et convoquera ses représentants », a conclu MCMC.

xAI n'a pas fait de déclaration ni de demande d'excuse concernant l'évasion de la capacité de modifier des images vulgaires qui a nui à de nombreux utilisateurs. Cependant, Elon Musk, propriétaire de X, a interdit aux utilisateurs de sa plate-forme d'utiliser Grok à des fins incorrectes.

« Toute personne qui utilise Grok pour créer du contenu illégal subira les mêmes conséquences qu'elle le ferait si elle avait téléchargé du contenu illégal », a déclaré Musk sur son compte X. Musk n'a pas expliqué plus en détail quelles seraient les conséquences pour les personnes qui abuseraient de Grok sur X.