L’utilisation accrue de l’IA d’intimidation, suscitant des menaces à la vie privée et à la sécurité

AI Undressing, une nouvelle menace dans le style de profonde fake. (photo: Doc. pexels)

JAKARTA - La société d’analyse des médias sociaux, Graphika, a révélé que l’utilisation du « artisanaliste » ou « artisanaliste ouvert des vêtements » augmente.

Cette pratique implique l’utilisation d’outils d’intelligence générative (IA) ajustés avec une précision pour supprimer les vêtements des images fournies par les utilisateurs.

Selon leurs rapports, Graphika mesure le nombre de commentaires et de publications sur Reddit et X contenant des liens de référence vers 34 sites Web et 52 canaux Telegram fournisant des services NCII synthétiques, et le total atteint 1 280 en 2022 contre plus de 32 100 jusqu’à présent cette année, ce qui représente une augmentation du volume de 2,408% en glissement annuel.

Le service NCII synthétique se réfère à l’utilisation d’outils d’intelligence artificielle pour créer des images intimées sans consentement (NCII), impliquant souvent la création de contenu explicite sans le consentement individuel décrit.

Graphika explique que cet outil d’IA facilite de nombreux fournisseurs de créer du contenu explicit réaliste à grande échelle à des prix efficaces.

Sans ce fournisseur, les clients seront confrontés au fardeau de gérer leurs propres modèles de diffusion d’image spécifiquement, ce qui prend de temps et coûteux.

Graphika avertit que l’utilisation croissante d’outils d’abandon de l’IA pourrait conduire à la création de contenu faux explicite et contribuer à des problèmes tels que le harcèlement ciblé, le torture sexuelle et la production de matériels pour les crimes sexuels d’enfants (CSAM).

Bien qu’avec l’IA d’abandonner l’habitude de se concentrer sur les images, l’IA a également été utilisée pour créer des vidéos posées en utilisant des similitudes à des personnalités célèbres, notamment la personnalité YouTube M. Beast et l’acteur hollywoodien Tom Hanks.

Dans un rapport séparé en octobre, l’organisme britannique de surveillance d’Internet, la Fondation Internet Watch (IWF), a noté qu’il avait découvert plus de 20 254 images d’abus d’enfants dans un forum sur le dark web en un seul mois. La IWF avertit que la pornographie d’enfants produite par l’IA pourrait « détruire » Internet.

Grâce aux progrès réalisés dans l’imagerie générative d’IA, l’IWF avertit que la distinction entre la pornographie latérale et les images authentiques est devenue plus difficile.

Dans un rapport du 12 juin, les Nations Unies ont qualifié les médias produits par l’intelligence artificielle de menace « sérieuse et urgente » contre l’intégrité de l’information, en particulier sur les médias sociaux. Les négociateurs du Parlement européen et du Conseil ont approuvé les règles régissant l’utilisation de l’intelligence artificielle dans l’Union européenne le vendredi 8 décembre.