PDG d'Instagram : les contenus générés par l'homme doivent être étiquetés pour lutter contre le « spam IA »

JAKARTA - Le PDG d’Instagram, Adam Mosseri, a déclaré que la plate-forme de réseau social devait changer d’approche face à l’inondation de contenu à base d’intelligence artificielle. Selon lui, dans le futur, Instagram ne sera pas suffisant pour étiqueteer le contenu de l’IA, mais il faudra au contraire marquer de marque le contenu qui est vraiment fait par des humains.

Au cours de l’an dernier, les internautes sont de plus en plus habitués à voir l’étiquette « Made with AI » sur des œuvres d’art numériques ou des images hyper-réalistes. Cependant, Mosseri estime que, à mesure que les capacités de l’IA deviennent plus sophistiquées et plus difficiles à distinguer de la réalité, cette approche ne sera plus efficace. Au lieu de continuer à rechercher du contenu faux, il estime que les plateformes doivent vérifier et marquer le contenu humain comme un nouveau standard d’authenticité.

Mosseri a exprimé son point de vue sur les défis de l’ère de l’IA dans une déclaration publique. Il a dit que les efforts pour détecter et étiqueter le contenu créé par l’IA atteindront finalement leurs limites. Lorsque la technologie IA sera de plus en plus capable de reproduire la réalité de manière parfaite, même les systèmes de détection les plus sophistiqués auront du mal à la distinguer du contenu original.

En tant que solution, Mosseri propose un concept de «́empreinte digitalé» pour les médias originaux. Cette approche se concentre sur la verification de l’authenticité dès le debut de la fabrication du contenu, pas au stade de la distribution.

Dans ce sceau, le fabricant de la caméra ou du téléphone peut inscrire une signature cryptographique sur une photo ou une vidéo lorsqu’elle est enregistrée pour la premìre fois. Ainsi, chaque contenu a une sorte de «́acte de naissance digitaĺ» qui prouve que le médium provient d’un appareil physique, et non d’une commande de texte à l’IA.

Cette approche crée ce qu'on appelle une chaîne de garde numérique, dans laquelle les métadonnées cryptographiques deviennent la preuve qu'une image a effectivement été prise par le truchement d'un objectif de caméra. Cela est considéré comme plus pratique que le jeu de la chasse à l'homme sans fin entre les plateformes et les bots AI de plus en plus sophistiqués.

Mosseri estime également que les inondations de contenu synthétique modifieront la façon dont le public perçoit la crédibilité dans le monde numérique. Lorsque l’Internet est rempli de contenu créé par des machines, la valeur du contenu créé par les humains sera encore plus élevée. Cependant, le plus grand défi est de prouver l’authenticité.

Dans ce contexte, Mosseri a mentionné que l’érée de l’apparence Instagram, qui est propre, parfaite et polie, sera probablement finie. Cette esthé́tique est maintenant facile à reproduire par l’IA. Au contraire, le contenu qui semble brut, spontane ou eveǹément imparfait peut être un signe fort que le fabricant est humain.

Il a laissé entendre que « l’imperfection » pourrait devenir la nouvelle monnaie de confiance à l’ère de l’IA. Une photo qui semble trop aléatoire ou maladroite pour être générée par un algorithme pourrait avoir un niveau de crédibilité plus élevé que les images de studio qui semblent parfaites.

Cependant, l’application universelle du système de signature cryptographique est encore en phase de développement. Cependant, Mosseri estime que l’avenir du monde numérique se dirige vers un endroit où l’authenticité n’est plus présumée, mais doit être prouvée.

En 2026, la question principale sur les médias sociaux ne sera peut-être plus « Est-ce que c'est fait par l'IA? », mais « Pouvez-vous prouver que c'est fait par un humain? ».