Apple accusée de ne pas respecter les normes éthiques, l’App Store rempli d’applications d’IA « Nudify »

Illustration de l'App Sore (photo; dok. apple)

JAKARTA - La popularité de l’utilisation de l’intelligence artificielle (IA) pour produire du contenu pornographique a de nouveau attiré l’attention mondiale. Si auparavant, le chatbot Grok de la plate-forme X (anciennement Twitter) avait été au centre d’une controverse car il permettait la creation d’images de nu et de pornographie infantile basées sur l’IA, Apple est maintenant jugée avoir échoué à maintenir les normes éthiques en laissant des dizaines d’applications « AI nudify » circuler dans l’App Store.

Ces applications permettent aux utilisateurs de « dévêtir » quelqu'un de manière digitale sans consentement, que ce soit par le biais de publications de photos ou de commandes de texte (prompts). Cette pratique est jugée préjudiciable et dangereuse pour les femmes et les enfants, tout en blessant la confiance du public dans l'écosystème des applications digitales.

Le rapport de Tech Transparency Project (TTP) du 27 janvier a révélé qu’au moins 47 applications d’IA nudify étaient toujours disponibles sur l’App Store, tandis que 55 applications similaires ont été trouvées sur le Google Play Store. Ces applications peuvent être facilement trouvées en tapant simplement des mots-clés tels que « nudify » ou « undress » dans la barre de recherche de l’App Store.

Dans les tests effectués, les chercheurs ont découvert que de nombreuses applications étaient vraiment capables de produire des images de nu non consensuelles, malgré les revendications officielles concernant une utilisation « sécuritaire » ou « créative ».

Au niveau mondial, les applications ont été téléchargées plus de 705 millions de fois, avec un chiffre d’affaires estimé à 117 millions de dollars, selon une analyse de la firme AppMagic. Comme Apple et Google prennent une part des revenus de chaque transaction, les deux sociétés devraient gagner des millions de dollars avec les applications qui produisent ce type de contenu manipulateur.

Le problème pourrait être plus grand

TTP estime que cette découverte n’est que « la partie émergée de l’iceberg ». De nombreuses autres applications sont censées avoir des capacités similaires, mais masquées par des descriptions plus générales, telles que des applications d’animation, de remplacement de visage ou de création d’avatars IA.

Dans les tests, les chercheurs ont utilisé des photos de femmes fictives générées par IA et vêtues de vêtements complets. Le résultat, un certain nombre d’applications sont toujours capables de transformer ces photos en contenu sexuel, bien qu’elles interdisent par écrit la création de contenu explicite.

L'un des exemples soulignés est l'application DreamFace. L'application prétend fournir uniquement des fonctions de création d'avatars parlant, de danse vidéo IA et d'animation. Dans ses conditions de service, DreamFace interdit la création de contenu offensif, sexuellement explicite ou préjudiciable à d'autres.

Mais dans la pratique, l'application peut toujours produire des vidéos sexuelles en entrant des commandes textuelles qui enfreignent clairement les conditions. Ironie du sort, de nombreux applications similaires sont également classées comme étant destinées aux adolescents de moins de 18 ans.

Apple accusée de ne pas avoir surveillé

Cette situation soulève des questions sérieuses sur l’́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́

Le fait que ces applications aient passé le processus de sélection et soient largement disponibles montre la faiblesse de la surveillance, tant de la part des développeurs que d'Apple en tant que gestionnaire de plateformes.

Après avoir reçu la liste des applications problématiques, Apple a déclaré avoir supprimé 28 applications et a mis en garde d'autres développeurs. Cependant, cette mesure a été jugée réactive et n'a pas touché à la racine du problème.

La confiance des utilisateurs est mise en jeu

Cette controverse survient alors que les entreprises technologiques sont sous pression pour être plus responsables dans l’utilisation de l’IA. Dans le cas de Grok, l’IA d’Elon Musk, les restrictions ont finalement été appliquées après des critiques du public et des législateurs – bien que le contenu problématique soit toujours signalé comme étant en circulation sur la plate-forme X.

Apple a lui-même été mise en exergue par les législateurs pour avoir permis à l’application X d’être disponible sur l’App Store. Mais contrairement à l’image qu’elle présente souvent comme une entreprise qui met à la prémière place la vie privée et la securité des utilisateurs, Apple a choisi de se taire sur cette question et a refusé de commenté sur le rapport de TTP.

Les critiques se sont accentuées car Apple est perçue comme profitant financiellement des ventes de ces applications. Pour beaucoup, ce silence et cette manque de transparence sont contraires aux affirmations d’Apple qui prenaient souvent une « position morale haute » sur les questions technologiques.

Alors que l'IA devient plus sophistiquée et plus facile à utiliser à mauvais escient, le public attend maintenant des mesures concrètes - pas seulement des restrictions limitées - pour garantir que la sécurité, l'éthique et la confiance des utilisateurs restent préservées.