Meta Crée L’IA La Plus Différente, Peut Rapidement Détecter Le Contenu Malveillant

Facebook se concentre davantage sur la construction du métavers. (photo : doc.unsplash)

JAKARTA - Meta affirme avoir créé une technologie d’intelligence artificielle (IA) capable de détecter plus rapidement de nouveaux types de contenus nuisibles, y compris les téléchargements qui interdisent les vaccinations contre la COVID-19.

La société affirme que son système d’IA est très différent, où normalement un système d’IA apprendra de nouvelles tâches à partir d’exemples, mais le processus de collecte et d’étiquetage de grandes quantités de données prend généralement des mois.

Cependant, en utilisant une technologie Meta baptisée Few-Shot Learner (FSL), le nouveau système d’IA nécessite très peu de données d’entraînement afin de pouvoir s’adapter pour lutter contre de nouveaux types de contenu malveillant en quelques semaines au lieu de plusieurs mois.

Ce système d’IA sera utile dans les cas où le réseau social a des règles contre le téléchargement de fausses informations sur un dangereux vaccin contre la COVID-19, y compris de fausses allégations selon lesquelles le vaccin modifie l’ADN.

Mais les utilisateurs formulent parfois leurs déclarations comme « Un vaccin ou un modificateur d’ADN? » ou même utilisent d’autres mots et codes pour essayer d’échapper à la détection. Cette nouvelle technologie aidera les entreprises à capturer le contenu qu’elles ont peut-être manqué.

« Si nous réagissions plus rapidement, nous pourrions lancer l’intervention et la modération du contenu plus rapidement. En fin de compte, l’objectif ici est d’assurer la sécurité des utilisateurs », a déclaré Cornelia Carapcea, chef de produit Meta, cité par CNET, jeudi 9 décembre.

Meta a déclaré qu’il avait testé le nouveau système et était en mesure d’identifier le contenu offensant que les systèmes d’IA conventionnels pourraient ne pas attraper. Après le lancement du nouveau système sur le service photo de Facebook et Instagram, le pourcentage de vues de contenu malveillant que les utilisateurs voient a diminué.

Few-Shot Learner travaillera dans plus de 100 langues. La société ne répertorie pas les langues incluses, mais Carapcea affirme que la nouvelle technologie pourrait frapper un coup dans la lutte contre le contenu préjudiciable dans les langues en dehors de l’anglais, qui pourrait avoir moins d’échantillons pour la formation des systèmes d’IA.

Alors que Facebook se concentre davantage sur la construction d’un métavers, un espace virtuel où les gens peuvent socialiser et travailler, la modération du contenu deviendra plus complexe. Carapcea a déclaré qu’il pensait que Few-Shot Learner pourrait éventuellement être appliqué au contenu de réalité virtuelle.

« En fin de compte, Few-Shot Learner est une technologie utilisée spécifiquement pour l’intégrité. Mais l’enseignement des systèmes d’apprentissage automatique par moins d’exemples est un sujet qui est poussé à la pointe de la recherche », a déclaré Carapcea.