JAKARTA - Meta a sorti Muse Image, un modèle d’intelligence artificielle qui permet aux autres de créer des images très réalistes avec le visage des utilisateurs d’Instagram. Le risque menace principalement les utilisateurs de plus de 18 ans qui utilisent des comptes publics.
CNET rapporte samedi 11 juillet que quiconque possède un compte Meta AI peut entrer un nom d’utilisateur Instagram dans la commande de création d’image. Le résultat peut afficher le visage de l’utilisateur de manière convaincante, même si l’image n’est pas une photo de l’incident.
Dans ce cas, le deepfake fait référence à une image créée par l'IA qui imite le visage d'une personne de manière très réaliste. La personne dont le visage a été utilisé peut même ne pas être consciente qu'elle a été incluse dans la création d'une autre personne par l'IA.
Muse Image est le premier modèle créatif de la famille Muse Spark développée par le laboratoire de superintelligence Meta. Le modèle a été conçu pour gérer des commandes plus complexes, combiner plusieurs photos et modifier des images existantes.
Ces services sont disponibles sur les applications Meta AI, Instagram et WhatsApp. Meta prévoit également de les porter sur Facebook, Messenger et les services pour les annonceurs.
CNET a testé cette fonction en entrant le nom d'utilisateur d'Instagram. Des images deepfake peuvent être créées en moins d'une minute.
Cette facilité a immédiatement provoqué des critiques. L’union d’acteurs SAG-AFTRA a dit au LA Times que la décision d’inclure automatiquement les utilisateurs dans cette fonction était une grande erreur dans la lecture de l’attitude du public à l’égard des dangers et des pertes qui peuvent survenir.
Le directeur exécutif du National Center on Sexual Exploitation, Haley McNamara, s'est également interrogé sur la façon dont la fonction a pu être approuvée.
« Comment cela peut-il recevoir le feu vert? Meta crée des opportunités claires et prévisibles d’exploitation, de violence sexuelle, de harcèlement et de fraude d’identité », a-t-il dit, cité par CNet.
Le risque est très réel pour les créateurs et les influenceurs. Leur nom et leur visage ne sont pas seulement une identité personnelle, mais aussi une partie de la marque et une source de revenus.
Meta a déclaré que Muse Image dispose d’un système de protection pour prévenir la production de contenu illicite, vulgaire ou diffamatoire. Cependant, CNET a noté que les systèmes de protection d’autres modèles d’IA avaient auparavant pu être contournés par des utilisateurs malveillants.
Comment limiter l'utilisation du visage sur Instagram
Les utilisateurs peuvent choisir deux options. La première étape consiste à convertir un compte Instagram en privé.
1. Ouvrez Instagram et accédez à la page de profil. 2. Appuyez sur l'icône à trois lignes en haut à droite. 3. Sélectionnez « Confidentialité du compte ». 4. Activez le compte privé.
Le contenu des comptes privés n’est pas accessible à tout le monde pour être retravaillé ou utilisé dans la fabrication de contenu IA. Cependant, les comptes sont également plus difficiles à trouver et les interactions avec d’autres utilisateurs sont plus limitées.
Les créateurs, les influenceurs ou les entrepreneurs qui ont toujours besoin d’un compte public peuvent éteindre l’autorisation de réutiliser le contenu.
1. Ouvrez Instagram et accédez à la page de profil. 2. Appuyez sur l'icône à trois lignes en haut à droite. 3. Faites défiler vers la section « Partager et réutiliser ». 4. Désactivez l'option « Permettre aux gens de réutiliser votre contenu sur Instagram et avec les fonctionnalités IA de Meta ».
Cette configuration limite l’utilisation des publications et des Reels par la fonction IA de Meta. Cependant, cette mesure ne peut pas être considérée comme une garantie que toutes les formes d’abus seront éliminées.
Les utilisateurs de l’application Meta AI peuvent également ouvrir les «́Paramètres», puis choisir «́Votre ressemblance». Dans cette section, les utilisateurs peuvent choisir qui peut utiliser leur ressemblance, de vous-même, des abonnés approuvés, des utilisateurs qui se suivent mutuellement, à tous.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
