Microsoft limite les pirates parrainés par l’État pour avoir un contrôle sur l’intelligence artificielle d’OpenAI

JAKARTA - Mercredi 14 février, un rapport publié révèle que des pirates informatiques soutenus par l’État de Russie, de Chine et d’Iran avaient utilisé des outils OpenAI soutenus par Microsoft pour améliorer leurs compétences et tromper leurs cibles.

Microsoft a annoncé ces résultats tout en imposant une interdiction complète aux groupes de pirates égyptiens d’utiliser leurs produits d’intelligence artificielle (IA).

Tom Burt, vice-président de la sécurité des clients de Microsoft, a déclaré dans une interview accordée à Reuters avant la publication d’un rapport qu’il ne souhaitait pas que les acteurs qu’ils identifient comme des menaces aient accès à la technologie, quel que soit les violations des lois ou des conditions de service.

Le groupe de pirates informatiques travaillant au nom de l’agence de renseignement militaire russe, GRU, utilise un modèle de langue largement utilisé pour étudier les technologies satellites et radar liées aux opérations militaires conventionnelles en Ukraine.

Les pirates nord-coréens utilisent des modèles pour produire du contenu susceptible d’être utilisé dans des campagnes de phishing par spike contre des experts régionaux. Les pirates iraniens utilisent également le modèle pour écrire des courriels plus convaincants, essayant même d’attirer des « féministes de premier plan » vers des sites web piégés.

Microsoft et OpenAI décrivent l’utilisation des outils d’IA par les pirates comme des « premiers stades » et de « incrementels ». Ils ont déclaré qu’il n’y avait pas eu de percée observée par les pirates.

L’interdiction comprend des groupes de pirates informatiques soutenus par l’État, y compris ceux présumés d’associations avec les agences de renseignement militaire russes, l’Iran et les gouvernements chinois et nord-coréens. Cela soulève des inquiétudes concernant la prolifération rapide de la technologie d’IA et son potentiel d’abus. Des responsables de cybersécurité en Occident ont averti depuis l’année dernière que les acteurs biaisés utilisent de tels outils, bien que les détails soient encore minimisés.

Microsoft insiste sur le fait que l’interdiction couvre tous ses produits d’IA, mais ne comprend pas son moteur de recherche, Bing. Cela a été fait en raison des préoccupations concernant l’utilisation de cette nouvelle et puissante technologie d’IA.

Dans l’interview, Burt a également défendu l’interdiction de la tolérance zéro contre les groupes de pirates en exprimant des préoccupations concernant la propagation de la technologie d’IA. Il a déclaré que cette technologie est nouvelle et très puissante.