Grok limite la fonction de création d'images Deepfake Sexuel, Premier ministre britannique: ne résout pas le problème

JAKARTA - Le chatbot d’intelligence artificielle Grok d’Elon Musk a restreint la fonction de création et de modification d’images sur la plate-forme X après une vague de critiques internationales concernant son utilisation pour créer des deepfakes sexuels sur des femmes et des enfants. À partir du vendredi 9 janvier, Grok ne permet plus la fonction de création d’images sur X aux utilisateurs payants.

Ces restrictions ont été annonçees directement par Grok aux utilisateurs de X. Cependant, l’application Grok, qui est autonome et distincte de X, permet toujours aux utilisateurs de produire des images sans abonnement.

Cette mesure a été prise après que la pression s'est intensifiée de la part de nombreux pays et la menace de pénalités pour X et xAI. Plusieurs gouvernements ont souligné la fonction Grok qui permet aux utilisateurs de manipuler des photos en ligne, y compris d'enlever les vêtements du sujet sur une image. La Commission européenne a déclaré que de telles images circulant sur X étaient illégales et « embarassantes ».

Le régulateur de protection des données britannique a également déclaré avoir demandé des clarifications à X concernant la conformité avec la loi sur la protection des données, à la suite des inquiétudes que Grok a produit des images à caractère sexuel abusif sur les femmes.

Le bureau du Premier ministre britannique, Keir Starmer, a fermement critiqué la politique de restriction. Un porte-parole de Downing Street a qualifié la mesure de restriction des fonctions uniquement pour les abonnés payants de « humiliante pour les victimes » et « pas de solution ».

« Cela ne fait que transformer une fonction d’IA qui permet la création d’images illégales en un service premium », a déclaré le porte-parole. « C’est une insulte aux victimes de la misoginie et de la violence sexuelle. »

La Commission européenne a déclaré avoir « pris note des derniers changements » apportés par X. Cependant, le porte-parole pour les affaires numériques de l’UE, Thomas Regnier, a insisté sur le fait que ces changements ne répondaient pas à la question principale.

« Cela ne change pas notre problème fondamental, qu’il s’agisse d’abonnements payants ou non payants », a dit Regnier à des journalistes. « Nous ne voulons pas voir de telles images. C’est aussi simple que ça. Tout ce que nous demandons aux plateformes, c’est de s’assurer que leur conception et leur système ne permettent pas la création de ce type de contenu illégal. »

En réponse à la controverse, la Commission européenne a ordonné à X de conserver tous les documents internes et les données relatives à Grok jusqu'à la fin de 2026. Outre l'Union européenne et le Royaume-Uni, la France, la Malaisie et l'Inde ont également critiqué la plate-forme d'Elon Musk.

La semaine dernière, Musk a déclaré que quiconque utilise Grok pour créer du contenu illégal subirait les mêmes conséquences juridiques qu’en téléchargeant directement le contenu illégal sur la plate-forme.

Cette controverse n’est pas la première pour Grok. L’an dernier, le chatbot a suscité des critiques pour avoir donné une réponse à connotation antisémithe à un utilisateur de X. En juillet dernier, la société d’intelligence artificielle xAI a même désactivé les réponses textuelles de Grok et supprimé un certain nombre de publications après que le chatbot a complimenté Adolf Hitler et a fait une déclaration antisémithe.

Ces cas mettent davantage en lumière le rôle de l'intelligence artificielle générative et la responsabilité des plateformes numériques dans la prévention de l'abus de technologies pouvant nuire aux individus et à la société dans son ensemble.