Une étudiante de l'Université de Pennsylvanie victime d'abus d'IA sur les médias sociaux en Chine

JAKARTA- Olga Loiek, étudiante à l’Université de Pennsylvanie, cherche un public sur Internet - mais l’incident inattendu s’est produit. Peu de temps après le lancement de la chaîne YouTube en novembre de l’année dernière, Loiek, 21 ans d’Ukraine, a découvert que ses images avaient été prises et traitées par l’intelligence artificielle pour créer un alternative-ego sur les plateformes de médias sociaux chinoises.

Ses joueuses numériques - « Natacha » - prétend être une femme russe qui parle polyar mandarin et veut remercier la Chine pour son soutien à la Russie tout en gagnant peu d'argent en vendant des produits comme les bonbons russes.

De plus, ces faux comptes ont des centaines de milliers d’abonnés en Chine, beaucoup plus que Loiek lui-même.

« C’est comme si mon visage parle mandarin et, dans les coins, j’ai vu le Kremlin et Moscou, et je parle de la grandeur de la Russie et de la Chine », a déclaré Loiek à Reuters. « C’est très effrayant, parce que c’est des choses que je ne dirai jamais dans ma vie. »

L’affaire Loiek représente un nombre croissant de femmes apparemment venues de Russie sur les médias sociaux chinois qui montrent leur amour de la Chine en mandarin clair et disent qu’elles veulent aider la Russie dans la guerre en vendant des produits importés de leur pays.

Cependant, il n’y en a pas vraiment. Selon les experts, ils ont été créés par l’IA en abusant d’abus de vidéos féminines natives trouvées en ligne, souvent à l’abus de leur ignorance, et des vidéos créées par ces faux avatars ont été utilisées pour commercialiser des produits à des hommes célibataires chinois.

Le compte créé avec une photo de Loiek a des centaines de milliers d’abonnés et a vendu des produits d’une valeur de dizaines de milliers de dollars, y compris des bonbons. Certains publications contenaient des déni qui disaient qu’ils pourraient être fabriqués à l’aide d’IA.

Les avatars comme Loiek tirent parti d’un partenariat « sans frontières » entre la Russie et la Chine, annoncé en 2022 lorsque le président russe Vladimir Poutine s’est rendu à Pékin quelques jours avant que la Russie n’envahisse l’Ukraine.

Jim Chai, PDG de XMOV, une société qui développe des technologies d’IA de pointe et qui ne s’implique pas de la situation de Loiek, a déclaré que la technologie pour créer de telles images est « très courante parce que beaucoup de gens l’utilisent en Chine ».

« Par exemple, pour produire mon propre numérique humain en 2D, je n’ai eu que besoin d’enregistrer une vidéo de 30 minutes sur moi, et après avoir fini, j’ai édité la vidéo. Bien sûr, cela semble très réel, et si vous remplacez le langage, la seule chose à ajuster est la synchronisation des lèvres », a déclaré Chai.

L'intelligence artificielle est un sujet très débatté et l'histoire de Loiek souligne les risques d'utilisation illégale ou immorale, car des outils puissants pour créer et diffuser du contenu sont devenus courants dans le monde entier.

Les préoccupations concernant les AI qui contribuent à la désinformation, à la fausse information et au matériel propice au droit d’auteur ont augmenté ces derniers mois à la suite de la popularité des systèmes génératifs d’IA tels que chatGPT.

En janvier, la Chine a publié des directives du projet pour normaliser l’industrie de l’IA, proposant la formation de plus de 50 normes nationales et industrielles d’ici 2026. La loi européenne sur l’IA, qui impose des obligations de transparence strictes aux systèmes d’IA à haut risque, entre en vigueur ce mois-ci, définit le potentiel de normes mondiales.

Cependant, Xin Dai, professeur à la Faculté de droit de l’Université de Pékin, a déclaré que la réglementation cherche à poursuivre le développement rapide de l’IA.

« Nous pouvons seulement prédire qu’avec le renforcement des outils pour créer des informations, créer du contenu et diffuser du contenu qui devient disponible fondamentalement chaque minute », a déclaré Dai. « Je pense que la chose critique ici est son énorme volume... pas seulement en Chine, mais aussi sur Internet en général partout. »