JAKARTA — Le gouvernement des États-Unis a ordonné à Anthropic de mettre immédiatement fin à l’accès à ses deux modèles d’intelligence artificielle (IA) les plus sophistiqués, Claude Fable 5 et Claude Mythos 5, en raison de préoccupations en matière de sécurité nationale.
Citant un rapport de TechCrunch, samedi 13 juin, Anthropic a déclaré avoir appliqué la commande réceptionnée vendredi à 17h21 heure de l’est des États-Unis. Cependant, la société d’IA estime que la décision du gouvernement n’est pas correcte.
Cette ordonnance a contraint Anthropic à désactiver l’accès à Fable 5 et Mythos 5 pour tous les utilisateurs du monde, et non seulement pour les ressortissants étrangers qui étaient auparavant la cible des règles d’exportation des États-Unis. D’autres modèles d’IA d’Anthropic peuvent être utilisés.
Mythos est le modèle d'IA le plus puissant jamais développé par Anthropic. Le modèle a été introduit de manière limitée en avril car il a une capacité élevée à trouver des failles de sécurité dans le logiciel.
Selon les informations de Anthropic citées par TechCrunch, Mythos a pu trouver des failles dans les principaux systèmes d’exploitation et navigateurs testés par l’entreprise.
En raison de la nature très sensible de cette capacité, Anthropic n’a pas ouvert l’accès à un large public. L’entreprise ne permet à environ que 50 organisations choisies d’utiliser Mythos via un programme nommé Project Glasswing, dont Amazon, Apple, Google, Microsoft et CrowdStrike pour la défense de la cyberécônomérie.
En attendant, Fable 5, qui vient d'être sorti il y a quelques jours, est une version Mythos qui a été dotée de garde-corps ou de barrières de sécurité. Cette technologie est conçue pour empêcher l'IA de donner des réponses dans des domaines à haut risque, tels que la cybersécurité et la biologie.
Sur la base des tests de Vals AI, l’institut qui surveille le fonctionnement des technologies d’IA, Fable 5 est considéré comme l’un des modèles d’IA les plus sophistiqués disponibles pour le grand public.
Dans le blog de l’entreprise, cité par TechCrunch, Anthropic a mentionné les inquiétudes du gouvernement concernant un déni de justice présumé de Fable 5.
Dans le monde de l'IA, un jailbreak est une technique permettant à un modèle d'IA de contourner les règles ou les restrictions de sécurité que les développeurs ont établies.
Cependant, Anthropic a déclaré que le gouvernement n’avait jusqu’à présent communiqué que des preuves verbales concernant la possibilité d’un jailbreak qui est limitée et ne s’applique pas à toutes les conditions.
Selon Anthropic, la capacité de lire le code du programme et de trouver des failles de logiciels est en fait disponible sur d’autres modèles d’IA accessibles au public, y compris GPT-5.5 d’OpenAI. Cette capacité est également utilisée depuis longtemps par les professionnels de la cybersécurité pour protéger les systèmes numériques.
Anthropic a également expliqué que son système de protection fonctionne principalement par le biais d’un classifier indépendant, c’est-à-dire un système de surveillance distinct qui surveille et filtre les sorties de l’IA. Avec ce mécanisme, la protection des resultats considérés comme dangereux peut toujours fonctionner en dépite des tentatives de contourner l’initial réjection du modelé.
Cependant, le gouvernement américain a toujours appliqué la décision. Anthropic a exprimé son désaccord avec cette mesure.
« Nous ne sommes pas d’accord avec le fait que les conclusions sur les potentiels jailbreak limités doivent être une raison de retirer un modèle commercial utilisé par des centaines de millions de personnes. Si des normes comme celle-ci sont appliquées dans toute l’industrie, le lancement de nouveaux modèles d’IA de la part de tous les développeurs d’IA avancés pourrait être entravé », a écrit Anthropic.
L'affaire a également ravivé un grand débat dans l'industrie de l'IA: dans quelle mesure les capacités de l'IA avancée doivent-elles être limitées pour des raisons de sécurité, et comment les gouvernements régissent une technologie qui évolue très rapidement.
Auparavant, le PDG d'OpenAI Sam Altman avait critiqué la façon dont Anthrop…
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
