JAKARTA - Anthropic a accusé trois laboratoires d'IA chinois, DeepSeek, Moonshot AI et MiniMax, d'utiliser Claude AI pour entraîner illégalement leurs modèles d'IA.
Appelée distillation, cette action est généralement destinée à former des modèles plus petits et plus efficaces sur la base des résultats de modèles plus sophistiqués.
Cependant, si cette technique est utilisée de manière abusive pour copier les capacités d'un modèle concurrent à un coût et dans un délai bien inférieurs à ceux du développement autonome, cette activité est considérée comme enfreignant les conditions du service.
Dans son annonce officielle, Anthropic a déclaré que les trois laboratoires avaient généré plus de 16 millions d'interactions avec Claude via environ 24 000 comptes faux.
Anthropic souligne que les modèles de distillation illégale peuvent ne pas avoir de systèmes de sauvegarde importants. Selon lui, un modèle sans protection peut être utilisé dans les systèmes militaires, les services de renseignement et la surveillance de masse.
Le risque est encore plus grand si le modèle qui a été distillé est ensuite publié sous forme d'open-source, de sorte que sa capacité à se propager est incontrôlable.
DeepSeek a enregistré plus de 150 000 interactions, en se concentrant sur la capacité de raisonnement et de création d’alternatives à des réponses « sensibles ».
Pendant ce temps, Moonshot AI aurait effectué plus de 3,4 millions d’interactions, ciblant le raisonnement basé sur des agents, l’utilisation d’outils, le codage et la vision par ordinateur.
Le laboratoire MiniMax est le plus grand, avec plus de 13 millions d'interactions, principalement sur les capacités de codage et d'orchestration des outils.
En réponse, Anthropic a renforcé le système de détection basé sur les classifiers et les empreintes de comportement pour identifier les modèles de distillation, y compris les efforts pour extraire le raisonnement par chaîne de pensée.
L’entreprise a également amélioré la vérification des comptes d’établissements d’enseignement, des programmes de recherche en matière de sécurité, ainsi que des start-ups, des filières souvent utilisées pour créer des comptes faux.
En outre, Anthropic a déclaré qu'il était en train de développer des mesures de sécurité au niveau des produits, des API et des modèles afin de réduire l'efficacité des sorties de modèles à des fins de distillation illégale, sans perturber l'expérience utilisateur légitime.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
