Kaspersky partage des conseils pour protéger les organisations des risques liés aux agents autonomes d'IA

Photo: Dok. Kaspersky

JAKARTA - L’utilisation d’agents d’intelligence artificielle (agents IA) de plus en plus autonomes est considérée comme présentant des risques de sécurité graves pour les organisations, allant de la perturbation des services à la clientèle à la suppression potentielle des bases de données d’entreprise.

En voyant cela, Kaspersky estime que cette situation pose un nouveau défi de gouvernance pour les dirigeants informatiques, en particulier les chefs de l'information (CIO) et les chefs de la sécurité de l'information (CISO).

« Ces agents prennent des décisions, utilisent des outils et traitent des données sensibles sans intervention humaine. En conséquence, il s’averé que de nombreux outils TI et de la securité standard ne sont pas capables de controler l’IA », a déclaré la société, cit́é le dimanche 1er février.

Pour cela, Kaspersky recommande aux entreprises de limiter l'accès aux agents IA en assignant des tâches avec des limites strictement définies.

Kaspersky recommande également l'utilisation de cordonnées à durée de vie courte, telles que des jetons et des clés API temporaires avec une couverture limitée, afin d'empêcher une utilisation abusive si un agent d'IA est compromis.

En outre, l'implication humaine reste obligatoire pour les opérations à haut risque, telles que l'autorisation de transactions financières ou l'effacement de données en grande quantité.

Du point de vue technique, l’exécution des agents IA doit être isolée dans un environnement sécurisé tel qu’un conteneur ou un sandbox, accompagné de contrôles stricts du trafic réseau. Chaque plan et action de l’agent doit également être vérifié au préalable par un mécanisme d’application de la politique avant d’être exécuté.

Toutes les activités des agents IA doivent également être enregistrées de manière continue dans un journal non modifiable à des fins d'audit et d'enquête forenstique.

Kaspersky souligne l'importance de la surveillance automatique du comportement des agents pour détecter des anomalies, telles que des appels API en hausse, des tentatives de réplication autonome ou des déviations par rapport à l'objectif initial.

D'autres mesures complémentaires comprennent la sécurisation des communications entre les agents par le biais de l'encodage et de l'authentification, l'utilisation d'interfaces visuelles pour aider les humains à mesurer le niveau de confiance dans l'IA, ainsi que la formation continue des employés.

Enfin, Kaspersky, compte tenu de la rapidité de l’́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́́