Palo Alto Networks révèle le danger des Dark LLMs, l'IA devient un nouvel outil de la cybercriminalité

JAKARTA - Le risque le plus grand de l'intelligence artificielle (IA) réside actuellement dans son double objectif, à la fois positif et négatif, comme l'automatisation du phishing, de la fraude et du malware à grande échelle.

Les modèles de langage de grande taille (LLMs) tels que ChatGPT et Google Gemini sont devenus une partie de la vie quotidienne de nombreuses organisations et communautés.

Cependant, la recherche la plus récente de l'unité 42 de Palo Alto Networks montre que l'émergence de LLM dangereux ou de LLM obscures a le potentiel de transformer de manière significative le paysage de la cybercriminalité, y compris en Indonésie.

Dans un rapport intitulé The Dual-Use Dilemma of AI: Malicious LLMs, Unit 42 a révélé l’existence de modèles tels que WormGPT, FraudGPT et KawaiiGPT qui ont été construits sans système de sécurité et sont maintenant vendus publiquement via Telegram et les forums du web sombre.

Cette menace est considérée comme de plus en plus urgente pour l’Indonésie, compte tenu de la forte dépendance de la population aux applications de messagerie instantaneée, aux plateformes e-commerce et aux services publics numériques.

Unit 42 a révélé trois principaux impacts des LLMs sombres sur le paysage de la cybercriminalité en Indonésie.

Premièrement, la capacité de l'IA à produire un langage très précis permet aux acteurs de créer des messages de phishing et des e-mails d'infiltration d'affaires qui semblent très convaincants, imitant le style de communication des dirigeants d'entreprises, des institutions financières ou des institutions gouvernementales, ce qui leur permet d'exploiter la confiance des victimes.

Deuxièmement, cette technologie encourage la commercialisation de la cybercriminalité avec la capacité de produire instantanément des malwares, des kits de phishing et des scripts de vol de données, ce qui n'était auparavant possible que par des acteurs ayant des compétences techniques élevées.

Troisièmement, avec l'élimination des obstacles techniques, la cybercriminalité devient de plus en plus démocratisée, permettant aux acteurs à faible capacité de mener rapidement des escroqueries et des extorsions numériques, transformant la cybercriminalité en une opération peu coûteuse, répétée et massive.

Palo Alto Networks souligne donc l'importance de définir des normes et des cadres régissant la prolifération des modèles d'IA dangereux, ainsi que d'exiger l'application des meilleures pratiques de sécurité pour les décideurs.

Alors que l’Indonésie conçoit une feuille de route nationale pour l’IA, Unit 42 souligne que le principal défi n’est pas de restreindre ou d’interdire l’utilisation des outils d’IA, mais de construire une résilience cyberée contre les attaques basées sur l’IA qui se déroulent rapidement et à grande échelle.

« La collaboration entre le gouvernement, les régulateurs et le secteur privé est nécessaire pour garantir que les pratiques d’IA sûres soient intégrées dans le plan d’action de l’IA et le cadre de gouvernance national », a-t-il affirmé.