Meta trouve l’utilisation de contenus possibles générés par l’IA dans les opérations en ligne

Meta trouve sur Facebook du contenu « probablement généré par l’intelligence artificielle » (photo: Doc. facebook)

JAKARTA - Meta a annoncé mercredi qu’il avait découvert du contenu « susceptible de générer par l’intelligence artificielle » utilisé de manière trompeuse sur les plateformes Facebook et Instagram. Le contenu comprend des commentaires faisant éloge à la gestion d’Israël de la guerre à Gaza publiée sous un message d’organisations de presse mondiales et de membres du Congrès américain.

Les sociétés de médias sociaux ont mentionné dans leurs rapports de sécurité trimestriels que les comptes se cachait en tant qu’étudiants juifs, Afro-Américains et d’autres ressortissants concernés, avec des cibles d’un public aux États-Unis et au Canada. Meta a imputé la campagne à la société de marketing politique basée sur Tel Aviv, STOIC.

StOIC lui-même n’a pas immédiatement donné de réponse aux allégations.

Bien que Meta ait trouvé des photos de profil de base générées par l’intelligence artificielle dans des opérations d’influence depuis 2019, ce rapport est la première fois révéler l’utilisation de la technologie d’IA générée par le texte depuis sa sortie fin 2022. Les chercheurs craignent que l’IA générative, qui peut générer rapidement et à bas prix de texte, image et sonore humain, ne provoque des campagnes de désinformation plus efficaces et ne pas influencer les résultats électoraux.

Dans un communiqué de presse, les dirigeants de la sécurité de Meta ont déclaré qu’ils supprimaient rapidement la campagne israélienne et ne pensaient pas que la nouvelle technologie d’IA entrave leur capacité à perturber le réseau d’influence, un effort coordonné pour propager certains messages.

« Il y a quelques exemples à travers le réseau de comment ils utilisent les outils génératifs d’IA qui sont très probablement pour créer du contenu. Peut-être leur donner la possibilité de le faire plus rapidement ou avec plus de volume. Mais cela n’affecte pas vraiment notre capacité à les détecter », a déclaré Mike Dvilyanski, chef de l’enquête sur les menaces de Meta.

Le rapport souligne six opérations d’influence cachées qui ont perturbé Meta au premier trimestre. En plus du réseau STOIC, Meta a également fermé un réseau basé en Iran axé sur le conflit israélo-hamas, bien qu’il n’ait pas identifié l’utilisation génératrice d’IA dans la campagne.

Meta et d’autres géants de la technologie ont lutté pour surmonter le potentiel d’abus de nouvelles technologies d’IA, en particulier dans les élections.

La découverte de contenu susceptible d’être généré par l’IA qui est utilisé de manière trompeuse souligne les défis auxquels les entreprises de médias sociaux sont confrontées à détecter et à réduire de telles activités. Il souligne également la nécessité d’être vigilant et d’adaptation continue de la technologie par les plateformes de médias sociaux pour lutter contre les tactiques de manipulation et de désinformation croissantes en ligne.