런던 - 안드로이드 앱 클라우드 코드(Claude Code)에 숨겨진 추적 코드가 보안 연구원에 의해 해체된 후 안드로이드는 주목을 받았습니다. 코드는 중국에서 사용자를 모니터링하고 발견이 공개되자마자 즉시 삭제되었습니다.
7월 7일 화요일 아르스 테크니카에서 인용한 코드는 클로드 코드의 개인 정보 보호 문제를 조사하는 동안 테레알로로 알려진 웹 개발자에 의해 발견되었습니다. 그는 추적이 스파이웨어와 비슷하다고 말했고 "사용자 신뢰에 대한 심각한 침해"가되었다고 말했습니다.
클로드 코드는 개발자가 코드를 작성, 읽고 수정하는 데 도움이되는 Anthropic의 AI 기반 도구입니다. 사용자 컴퓨터의 파일과 명령에 가까이 일하기 때문에 이러한 도구에서 암묵적으로 추적하는 것은 민감한 문제가됩니다.
Thereallo에 따르면 Anthropic는 시스템 내에서 표시기를 숨기기 위해 "프롬프트 스테가노그래피"기술을 사용했습니다. 간단히 말해, 스테가노그래피는 보통 보이는 곳에 숨겨진 메시지 또는 신호를 삽입하는 방법입니다.
코드는 위험하지 않다고 불렸습니다. 그러나 사용자가 쉽게 인식하지 못한 채 Anthropic에 정보를 보냈습니다. 정보에는 시간대, 프록시 사용 및 Anthropic가 디스틸레이션 공격을 수행했다고 비난받는 중국 AI 연구소와 사용자의 관계 가능성이 포함됩니다.
X의 인류학자 타리크 시히파르는 추적기가 3월에 클로드 코드에 "실험"으로 추가되었다고 인정했다. 그는 코드가 비공식 리셀러에 의한 계정 남용을 방지하고 Anthropic를 증류에서 보호하기 위해 만들어졌다고 말했다.
AI에서 증류는 모델의 출력을 사용하여 다른 모델의 개발을 훈련하거나 가속화하는 과정입니다. 이 관행은 자동으로 불법이 아니지만, 클로드와 같은 모델이 수백만 번 반응하도록 요청하여 모델의 기능을 모방하는 방식으로 수행되는 경우 서비스 약관을 위반할 수 있습니다.
시히파르는 인트로픽은 실제로 기술 팀이 더 강력한 보호를 적용했기 때문에 코드를 삭제하려고했습니다.
그러나 이 설명은 비판을 완화시키지 못했습니다. 개인 정보 보호 지지자들은 Anthropic가 사용자를 모니터링하는 숨겨진 방법을 선택하기 때문에 한계를 넘었다고 생각합니다. Anthropic가 이전에 미국 정부가 미국 내 사용자를 모니터링하기 위해 Claude를 사용하는 것을 거절했기 때문에 촛점이 더욱 강조되었습니다.
Ars Technica는 이 사건은 미국 AI 회사가 그들의 모델을 모방한 것으로 의심되는 중국 기업의 속도를 더욱 공격적으로 억제하면서 발생했다고 썼다. 워싱턴 포스트는 중국 기업들이 지난 1년 동안 단 몇 달 만에 미국 모델의 능력에 맞설 수 있었다고 보도했다.
Anthropic는 또한 증류 공격을 지적 재산 침해로 취급하도록 권장했습니다. 회사는 OpenAI와 합류하여 미국 정부가 법적 조치와 더 엄격한 수출 정책을 취하도록 촉구했습니다.
이 발견의 영향은 중국에서 즉각적으로 느껴졌습니다. 남중국일보는 알리바바가 직원들이 일하기 위해 클로드 코드를 사용하는 것을 금지했다고 보도했습니다. SCMP가 검토 한 내부 메모에서 클로드 코드는 "뒷문"위험을 안고 있으며 위험한 소프트웨어 목록에 포함되었다고 말했습니다.
알리바바는 증류에 관한 인류학자의 주장에 대해 언급하지 않았습니다. 그러나 로이터 통신은 회사가 인류학적 조항을 위반하는 것으로 밝혀지면 법적 문제와 규정 준수 문제에 직면할 위험이 있다고 보도했습니다.
Anthropic는 현재 어려운 위치에 있습니다. 회사는 AI 모델을 모방으로부터 보호하고 싶습니다. 그러나 조용히하는 방법은 사용자 신뢰라는 새로운 문제를 열어 놓습니다.
Thereallo는 Anthropic이 실제로 더 개방적인 방법을 선택할 수 있다고 생각합니다. 클로드에 대한 비공식적인 액세스 경로 또는 계정 오용을 감지하려면 회사는 공식 설명서, 문서 또는 출시 기록을 만들 수 있습니다.
"이것은 위험한 기능이 아니지만, 신뢰를 요구하는 개발자 도구에 대한 이상한 선택입니다."라고 Thereallo는 그의 블로그에 썼습니다.
그는 또한 AI 기반 인코딩 도구가 민감한 영역에 있다는 것을 상기시켰습니다. 이러한 도구는 코드를 검사하고 명령을 실행하고 패키지를 설치하고 파일을 편집하고 심지어 사용자 컴퓨터에서 커밋을 유도 할 수 있습니다.
"시스템 프롬프트에서 신호를 숨기는 것은 다른 모든 개인 정보 보호 주장을 믿기 어렵게 만듭니다."라고 Thereallo는 말했습니다.
Ars Technica는 Anthropic이 즉각적인 코멘트 요청에 응하지 않았다고 썼다. 그러나 워싱턴 포스트에 따르면 Anthropic 대변인은 중국 연구소의 증류 공격은 국가 안보에 심각한 위협이었으며 업계의 AI 보안 표준을 손상했다고 말했습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
