JAKARTA - Anthropic a été mis au jour après que le code de suivi caché dans le code de Claude a été dévoilé par des chercheurs en securité. Le code est censé surveiller les utilisateurs en Chine et a été détruit instantanement après que les conclusions ont été portées à l’attention du public.
Cité par Ars Technica, mardi 7 juillet, le code a été trouvé par un développeur web connu sous le nom de Thereallo lors de l’étude d’une question de privacité dans le code de Claude. Il a déclaré que le suivi était similaire à un spyware et constituait une « grave violation de la confiance des utilisateurs ».
Claude Code est un outil basé sur l'IA d'Anthropic qui aide les développeurs à écrire, lire et améliorer le code. Étant donné qu'il travaille près des fichiers et des commandes sur l'ordinateur de l'utilisateur, le suivi silencieux dans un tel outil devient un problème sensible.
Selon Thereallo, Anthropic utilise une technique de « steganographie rapide » pour cacher des marqueurs dans le système. En gros, la steganographie est une façon de glisser un message ou un signal caché dans un endroit qui semble ordinaire.
Le code n’est pas qualifié de dangereux. Cependant, il envoie des informations à Anthropic sans que l’utilisateur ne le sache, comme l’heure, le système d’exploitation, le navigateur, le type de terminal, la langue, la résolution de l’écran, le système de navigation, le système de localisation, le système de gestion de l’énergie, le système de gestion de l’alimentation, le système de gestion de la batterie, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de gestion de la charge, le système de
Sur X, l’ingénieur anthropique Thariq Shihipar a admis que le traceur avait été ajouté à Claude Code comme « épreuve » en mars. Il a déclaré que le code avait été dévelopṕ pour prévenir l’abus des comptes par des résellers non autorisés et pour protgéger Anthropic de la distillation.
La distillation dans l'IA est le processus d'utiliser la sortie d'un modèle pour former ou accélérer le développement d'un autre modèle. Cette pratique n'est pas automatiquement illégale, mais elle peut violer les conditions de service si elle est effectuée en demandant à un modèle comme Claude de répondre à des millions de fois pour imiter ses capacités.
Shihipar a dit que Anthropic avait en fait l’intention d’effacer le code car l’équipe technique avait appliqué une protection plus forte.
Cependant, cette explication n’a pas apaisé les critiques. Les partisans de la vie privée estiment que Anthropic a dépassé les limites en choisissant une voie cachée pour surveiller les utilisateurs. Les critiques se sont accentues car Anthropic avait auparavant refusé l’utilisation de Claude par le gouvernement américain pour surveiller les utilisateurs aux États-Unis.
Ars Technica a écrit que l’incident a surgi lorsque les entreprises d’IA des États-Unis ont dévelopṕes des mesures agressives pour freiner la vitesse des entreprises chinoises qui sont soupconnes de copier leurs mod́les. Le Washington Post a rapporté que les entreprises chinoises au cours de l’an dernier ont été capables d’équilibrer la capacité des mod́les des États-Unis en quelques mois seulement.
Anthropic encourage également à traiter les attaques de distillation comme des vols de propriété intellectuelle. La société s'est associée à OpenAI pour exhorter le gouvernement américain à prendre des mesures juridiques et à appliquer des politiques d'exportation plus strictes.
Les répercussions de cette révélation ont été ressenties directement en Chine. Le South China Morning Post a rapporté que Alibaba avait interdit à ses employés d’utiliser Claude Code pour travailler. Dans un memo interne examiné par SCMP, Claude Code a été mentionné comme portant un risque de « porte derrierée » et a été inscrit sur la liste des logiciels à risque.
Alibaba n’a pas commenté les allégations d’Anthropic concernant la distillation. Cependant, Reuters a rapporté que la société risquait d’encourir des problèmes juridiques et de conformité si elle avait été reconnue coupable d’avoir enfré légalement les dispositions d’Anthropic.
Anthropic se trouve maintenant dans une position difficile. L'entreprise veut protéger son modèle d'IA contre la contrefaçon. Cependant, la façon de le faire de manière discrète ouvre un nouveau problème, à savoir la confiance des utilisateurs.
Thereallo estime que Anthropic aurait pu choisir une approche plus ouverte. Si elle veut détecter des accès non officiels à Claude ou des abus d’identifiants, l’entreprise peut créer une explication officielle, une documentation ou un enregistrement de sortie.
« Ce n’est pas une fonction dangereuse, mais c’est un choix étrange pour un outil de développeur qui demande confiance », a écrit Thereallo sur son blog.
Il a également rappelé que les outils de codage basés sur l'IA étaient déjà dans des zones sensibles. Ces outils peuvent examiner des codes, exécuter des commandes, installer des paquets, modifier des fichiers, et même pousser des commits sur les ordinateurs des utilisateurs.
« Masquer les signaux dans le système de prompt rend plus difficile de croire toute autre revendication de protection de la vie privée », a déclaré Thereallo.
Ars Technica a écrit que Anthropic n’a pas répondu immediatement à sa demande de commentaire. Cependant, au Washington Post, un porte-parole d’Anthropic a déclaré que les attaques de distillation par les laboratoires chinois constituaient une menace grave pour la securité nationale et entravaient les normes de securité de l’IA dans l’industrie.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
