Un sénateur démocrate demande à Apple et Google de supprimer X et Grok de l'App Store

JAKARTA - Trois senateurs du Parti démocrate des États-Unis ont décidé d’exhorter Apple et Google à supprimer rapidement l’application X et le chatbot Grok AI de leurs boutiques d’applications. Cette demande a émergé suite à la propagation massive d’images sexuelles non consensuelles impliquant des femmes et des enfants sur la plate-forme d’Elon Musk.

Dans une lettre publiée vendredi 9 janvier, les sénateurs Ron Wyden, Ben Ray Lujan et Edward Markey ont insisté sur le fait qu’Apple et Google devaient retirer X de l’App Store et du Play Store jusqu’à ce que les violations de la politique commises par la plate-forme soient vraiment traitées. Ils ont estimé que la diffusion de contenu sexuel illégal avait enfreint les règles de base des deux géants de la technologie.

X a été sous les feux de l’actualité mondiale depuis la semaine dernière, après que Grok a été identifié comme ayant produit et diffusé des images non consensuelles d’IA mettant en scène des femmes et des enfants vêtus de vêtements minces, dans des poses humiliantes, avec des connotations sexuelles et violentes. Le contenu a provoqué de vastes critiques des gouvernements et des régulateurs dans de nombreux pays.

Les sénateurs ont souligné la politique de Google qui interdit aux applications de faciliter l’exploitation ou la maltraitance des enfants, ainsi que la règle d’Apple qui interdit le contenu sexuel ou pornographique sur sa plate-forme. Ils ont rappelé que par le passé, les deux entreprises avaient agi rapidement en supprimant des applications en violation de règles similaires.

Selon le contenu de la lettre, la tolérance du comportement de X nuirait à la crédibilité des pratiques de modération du contenu d’Apple et de Google. Jusqu’à la publication de cet article, les deux entreprises n’ont pas donné de réponse officielle. X fait référence à une déclaration précédente selon laquelle ils prenaient des mesures contre le contenu illégal, y compris le matériel d’exploitation sexuelle des enfants.

La société mère de X, xAI, n'a pas répondu spécifiquement à la lettre du sénateur ni à la sortie de Grok qui a posé problème. Ils ont seulement fait une déclaration générale accusant les médias traditionnels d'informations trompeuses.

Elon Musk a également été en plein centre des feux de l’actualité après avoir répondu plusieurs fois à des images manipulées par l’IA avec des émojis de rire et en accusant les utilisateurs d’être responsables du contenu illicite. Il a déclaré que quiconque utilise Grok pour produire du contenu illicite subirait les mêmes consquéquences juridiques que s’il avait publié le contenu lui-même.

La pression sur X vient aussi de la Grande-Bretagne. La ministre britannique des Technologies, Liz Kendall, a déclaré que l’autorité de média Ofcom devrait agir dans les jours. Ofcom a le pouvoir d’infliger de lourdes amendes ou d’interdire un service si une plate-forme est jugée en violation des réglements.

Au milieu des critiques qui continuent de s'intensifier, xAI a commencé à limiter la fonction de retouche d'image Grok pour les utilisateurs ordinaires. La demande publique de manipulation des photos de femmes est maintenant régie par une notification indiquant que la fonction est uniquement disponible pour les abonnés payants. Cependant, les utilisateurs peuvent toujours créer des images sexuelles via l'onglet Grok dans X et les télécharger sur la plate-forme. La version séparée de l'application Grok permet également la création d'images sans abonnement.

Les médias n’ont pas pu confirmer si les restrictions ont effectivement stoppé la diffusion d’images non consensuelles. Le sénateur Wyden a estimé que cette mesure ne résolvait pas le problème et que les utilisateurs devaient payer pour produire du contenu problématique, tandis que les entreprises continuaient de tirer profit de la situation.