JAKARTA - OpenAI a confirmé qu’il avait obtenu un contrat avec le Pentagone pour fournir des modèles d’intelligence artificielle (IA) sur un réseau militaire confidentiel. L’accord a été conclu après qué le gouvernement des États-Unis a décidé de mettre fin progressivement à l’utilisation de la technologie IA d’Anthropic dans les institutions federales, cette semaine.
Le PDG d’OpenAI, Sam Altman, a défendu cette décision. Il a reconnu que du point de vue de la perception publique ou « optique », cette mesure semblait controversée. Cependant, il a souligné que OpenAI avait mis en place un système de sécurité technique en couches ou « pile de sécurité » pour empêcher l’abus de la technologie.
Le remplacement de l'anthropique et de la politique américaine
Cette annonce a été faite quelques heures après que le président des États-Unis, Donald Trump, a annoncé la cessation de l’utilisation de la technologie d’IA Anthropic dans l’environnement fédéral. Le gouvernement aurait eu des disputes avec Anthropic car la société a refusé d’enlever un certain nombre de restrictions limitant son utilisation militaire.
Le Pentagone a ensuite désigné Anthropic comme « risque de chaîne d’approvisionnement », ce qui a effectivement inscrit la société sur la liste noire pour une coopération future. Le processus de cessation de l’utilisation de la technologie Anthropic dans les institutions fédérales est prévu pour être achevé dans les six mois.
En plus d’OpenAI, la société d’IA d’Elon Musk, xAI, a également obtenu un rôle significatif. Le modèle Grok de xAI aurait obtenu une autorisation d’utilisation dans des opérations secrètes. Contrairement à Anthropic, xAI est censé être prêt à accepter les normes gouvernementales pour l’utilisation de la technologie d’IA pour « toutes les fins légitimes selon la loi ».
La controverse du paragraphe « Tous les buts légaux »
Le centre du débat est le paragraphe « tous les objectifs légaux ». Le PDG d’Anthropic, Dario Amodei, a précédemment affirmé que la réglementation actuelle n’était pas suffisante pour anticiper les effets potentiellement dangereux de l’IA.
En revanche, OpenAI a accepté la clause avec une approche différente. Sam Altman a déclaré qu’en incluant une référence directe à la loi des États-Unis dans le contrat, OpenAI se sentait plus protégé que de s’appuyer uniquement sur une politique d’utilisation interne générale.
Faites confiance à la sécurité technique en couches
Pour atténuer les inquiétudes éthiques, OpenAI a insisté sur le fait qu'elle ne s'appuyait pas uniquement sur des accords juridiques. L'entreprise mettra des ingénieurs à surveiller l'implémentation des modèles d'IA dans l'environnement du Pentagone.
Le système de « pile de sécurité » développé comprend un classificateur d’IA conçu pour détecter et rejeter les commandes qui enfreignent certaines limites, telles que la surveillance domestique illégale ou l’utilisation d’armes sans surveillance humaine. Altman a insisté sur le fait qu’en cas de rejet d’une commande par le modèle en fonction de ces règles, il n’existe aucun mécanisme de surpasse manuelle qui puisse l’obliger à exécuter la tâche.
L'accord a suscité des réactions diverses. Le modèle Anthropic de Claude a été signalé comme ayant grimpé au sommet de l'App Store après l'apparition d'un appel à un boycott de ChatGPT.
À l’interne, des dizaines d’employés ont signé une lettre ouverte demandant à la direction de continuer à donner la priorité aux principes de sécurité. Certains membres du personnel ont même qualifié la nouvelle protection de « décoration de façade » et ont mis en doute son efficacité à long terme, en particulier lorsqu’elle est appliquée dans le contexte d’une guerre à grande échelle.
Implication pour l'industrie de l'IA
Sam Altman a décrit cette mesure comme un moyen de réduire les tensions entre le gouvernement et l’industrie de l’IA. Il estime que la décision sur la façon dont la technologie est utilisée pour la défense nationale devrait être entre les mains des dirigeants élus, tant que la protection constitutionnelle est préservée.
Avec OpenAI et xAI commençant à jouer leur rôle respectif dans le secteur de la défense, on estime que cette évolution constituera un précédent important pour déterminer la façon dont les entreprises privées de technologie d’IA interagissent avec les gouvernements à l’avenir.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
