Amazon rapporte la découverte de CSAM dans les données de formation d'IA de tiers

Jakarta - Amazon a confirmé avoir trouvé du contenu pornographique d’enfants (material d’abus sexuel sur les enfants/CSAM) lors de l’examen des données de formation d’intelligence artificielle (IA) provenant de sources externes. Ces conclusions ont été réportes au Centre national pour les enfants disparus et exploités (NCMEC) aux États-Unis.

Citant un rapport de Bloomberg, NCMEC a réception plus d’un million de rapports concernant le CSAM baśe sur l’IA tout au long de 2025, dont la plupart proviennent d’Amazon. L’entreprise a déclaré que le contenu a été detécté lors du processus de scannage des données de tiers utilisé pour former son système d’IA.

Cependant, NCMEC estime que le rapport d’Amazon est remarquable en raison de l’absence d’informations sur la source. Le directeur exécutif de NCMEC, Fallaon McNuty, a déclaré que les rapports des entreprises technologiques incluent généralement suffisamment de détails pour que les forces de l’ordre puissent donner suite. Dans le cas d’Amazon, l’absence d’informations sur l’origine du contenu rend le rapport difficile à utiliser pour les enquêtes.

Selon McNuty, cette situation soulève des questions sérieuses concernant le processus de collecte de données pour la formation à l’IA et souligne la nécessité de normes de surveillance et de mécanismes de sécurité plus stricts sur toutes les plateformes technologiques.

En répondant à ces critiques, Amazon a déclaré qu’elle utilisait des règles de recherche approfondie lors de l’examen des données de formation, qui pouvaient produire de nombreux faux positifs. Amazon a déclaré ne pas avoir trouvé de preuves que le CSAM a été utilisé dans la formation de ses modèles d’IA.

L’entreprise explique que le rapport a été transmis via un système distinct car les données proviennent d’un tiers et n’incluent pas d’informations sur les utilisateurs, de sorte que les détails de la source ne peuvent pas être joints.

Amazon a réaffirmé son engagement en faveur du développement d’IA responsable et de la protection de la santé et de la securité des enfants. Les questions éthiques et de securité dans le développement d’IA sont elles-memes̀ sous le feu des projecteurs, en raison de plusieurs actions en justice contre d’autres entreprises technologiques telles que OpenAI, Character.AI et Meta concernant l’utilisation des données et la protection des utilisateurs.