Jakarta - Les derniers enquêtes ont ouvert un sérieux trou dans le système de modération d’Apple. Plusieurs applications basées sur l’IA capables de créer du contenu pornographique deepfake sans consentement des victimes ont non seulement réussi à passer à l’App Store, mais ont également activement fait de la publicité et sont apparues dans les résultats de recherche des utilisateurs.
Un rapport de l’organisation de recherche Tech Transparency Project a révélé que les utilisateurs devaient simplement taper des mots-clés tels que « deepfake » pour trouver des applications pouvant manipuler le visage d’une personne dans du contenu explicite. Plus inquiétant encore, certaines de ces applications ont même été classées comme étant sûres pour les enfants.
Cette tendance renforce les critiques selon lesquelles le système d'examen des applications d'Apple ne remplit pas sa fonction fondamentale en tant que gardien de l'écosystème des applications.
La grande fente de l'App Store
Les expériences menées par les chercheurs montrent à quel point l’abus est facile. L’une des applications de remplacement du visage permet aux utilisateurs de télécharger des vidéos explicites et de remplacer le visage par une photo d’une autre personne — sans avertissement, vérification ou restriction.
Il n’y a pas de notifications, pas de filtres de contenu, pas même de mécanismes de prévention de base. Dans le contexte juridique et éthique, cela entre clairement dans le domaine gris qui peut violer la vie privée et ouvrir la porte à l’exploitation numérique.
Le problème n'est pas seulement technologique, mais la distribution facilitée par les grandes plateformes.
Annonces Route continue
Ce qui rend la situation encore plus absurde, c’est que ces applications apparaissent également dans les emplacements publicitaires payants de l’App Store. Cela signifie que les développeurs ne passent pas seulement la sélection, mais peuvent également acheter une visibilité directe aux utilisateurs.
Les données d’enquêtes montrent qu’environ 31 applications « nudify » ont été trouvées actives, avec un total de téléchargements atteignant des centaines de millions de fois et un revenu combiné de plus de 120 millions de dollars É.-U.
Apple profite indirectement des revenus de cet écosystème - une situation qui pourrait se retourner dans le contexte de la pression croissante des regulateurs mondiaux sur les plateformes numériques.
Ce n'est pas le premier cas.
Auparavant, Apple avait supprimé des dizaines d’applications similaires et avait même alerté des entreprises d’IA telles que xAI concernant le problème des deepfakes sur leurs applications.
Cependant, ces nouvelles conclusions montrent que cette mesure n'est pas suffisante. La modération semble être réactive, pas préventive.
En fait, la technologie des deepfakes évolue rapidement et il est de plus en plus difficile de les distinguer des contenus originaux, ce qui en fait un outil dangereux s'il tombe entre de mauvaises mains.
L'affaire survient alors que les gouvernements dans de nombreux pays commencent à resserrer les règles sur le contenu de l'IA, en particulier en ce qui concerne l'exploitation sexuelle et la vie privée des individus.
Si Apple ne parvient pas à améliorer son système, il n’est pas impossible que l’intervention des régulateurs devienne plus agressive - y compris la possibilité d’une surveillance externe du processus d’examen des applications.
Le problème des deepfakes n'est plus un sujet de niche sur les forums Internet. Il est entré dans les plateformes grand public, est disponible en un clic et - ironiquement - est promu.
Suivez la chaîne Whatsapp VOI
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
