rame alerte à la menace du Dark AI dans l’Asie-Pacifique contre la création d’attaques avancées

Ronyme d'écran d'une cyberattaque (photo : Freepik)

ARTA - La société mondiale de cybersécurité Kaspersky a découvert une attaque plus sophistiquée et cachée entraînée par la montée d’intelligence artificielle (IA) sombre (Dark AI) en Asie-Pacifique.

an, parmi les experts de Kaspersky, ont révélé que les attaquants utilisaient la technologie d’IA pour mener à bien leurs actions, allant de simples attaques telles que le phishing aux cyberespionnage soutenus par l’État.

Dark AI se réfère à la mise en œuvre de modèles locaux ou à distance illimités de langues larges (LLM) dans un cadre de travail complet ou de systèmes de chat bot utilisés à des fins nuisibles, non éthiques ou illégales.

rénal. Ces systèmes fonctionnent en dehors des contrôles de sécurité, de conformité ou de gouvernance standard, qui permettent souvent de capacités telles que la fraude, la manipulation, les cyberattaques ou l’abus de données sans surveillance.

« Nous sommes entrés dans une ère de la cybersécurité et de la société dans laquelle l’IA est un esclave et l’IA sombre est son épée », a déclaré Sergueï Lozhkin, chef de l’équipe mondiale de recherche et d’analyse (GReAT) pour META et APAC chez Kaspersky.

, par Lozhkin, l’un des Dark AI célèbres aujourd’hui est dans la forme du Black hat GPT, qui est apparu depuis 2023, qui est utilisé pour des activités illégales ou nuisibles - telles que la conception d’e-mails de phishing, la création de faux-feuilles vocales ou de vidéos, et même le soutien aux opérations de Red Team.

« L’IA ne peut pas inhéremment distinguer entre le droit et le faux, mais les outils qui suivent les ordres. Même lorsque la protection a été mise en œuvre, nous savons que l’APT est un attaquant persistant », a ajouté Lozhkin.

Par conséquent, a-t-il ajouté, à mesure que les appareils nuages d’IA sont de plus en plus accessibles et qualifiés, il est important pour les organisations et les particuliers d’Asie-Pacifique de renforcer l’hygiène de la cybersécurité, d’investir dans la détection des menaces soutenues par l’IA elle-même et de continuer à apprendre comment cette technologie peut être exploitée.