자카르타 - Anthropic은 중국, DeepSeek, Moonshot AI 및 MiniMax의 세 개의 AI 실험실이 Claude AI를 사용하여 불법으로 인공 지능 모델을 훈련했다고 비난했습니다.
증류라고도 불리는 이러한 작업은 일반적으로 더 정교한 모델의 출력을 기반으로 더 작고 효율적인 모델을 훈련시키는 것을 목표로합니다.
그러나 이 기술이 경쟁 모델의 기능을 자체 개발보다 훨씬 저렴한 비용과 시간으로 복사하는 데 악용되면, 이러한 활동은 서비스 조건을 위반하는 것으로 간주됩니다.
공식 발표에서 Anthropic는 세 개의 실험실이 약 24,000 개의 가짜 계정을 통해 클로드와 1600만 건 이상의 상호 작용을 일으켰다고 말했습니다.
Anthropic는 불법 증류 모델이 중요한 안전 시스템을 갖지 않을 수 있다고 강조했습니다. 그에 따르면, 보호가없는 모델은 군사 시스템, 정보, 대량 감시에 사용될 수 있습니다.
이미 분해된 모델이 오픈 소스로 출시되면 확산 능력이 통제되지 않고 확산되므로 위험은 더 커집니다.
DeepSeek는 "센서 안전"이라는 이론적 능력과 대안 답변을 만드는 데 초점을 맞춘 150,000 건 이상의 상호 작용을 기록했습니다.
반면에 Moonshot AI는 340만 건 이상의 상호 작용을 수행했으며, 에이전트 기반의 추론, 도구 사용, 코딩, 컴퓨터 비전을 목표로 하고 있습니다.
반면에 MiniMax는 1,300만 건 이상의 상호 작용을 기록한 가장 큰 실험실로, 주로 코딩 및 도구 조직화 기능에 있습니다.
이에 대한 응답으로 Anthropic은 분류 기반 감지 시스템과 행동 지문을 강화하여 사고 체인 추론을 추출하려는 시도를 포함하여 분해 패턴을 식별했습니다.
회사는 또한 가짜 계정을 만드는 데 자주 사용되는 경로 인 교육 계정, 보안 연구 프로그램 및 스타트업 조직의 인증을 강화했습니다.
또한 Anthropic은 불법 증류 목적으로 모델 출력의 효율성을 줄이기 위해 제품, API 및 모델 수준에서 보안을 개발하고 있으며, 합법적 사용자 경험을 방해하지 않고 있습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
