미국 정부, 인공 지능 액세스를 중단한 Anthropic, Claude Fable 5 및 Mythos 5 차단

미국 정부는 Anthropic에게 국가 안보 문제를 이유로 Claude Fable 5와 Claude Mythos 5라는 두 가지 가장 진보된 인공 지능 (AI) 모델에 대한 즉각적인 액세스를 중단하도록 명령했습니다.

6월 13일 토요일 TechCrunch의 보고서를 인용하면, Anthropic은 금요일 오후 17시 21분에 받은 명령을 준수했다고 말했습니다. 그러나 AI 회사는 정부의 결정이 적절하지 않다고 평가했습니다.

이 명령으로 Anthropic은 이전에 미국 수출 통제 규칙의 대상이었던 외국인뿐만 아니라 전 세계 모든 사용자에게 Fable 5 및 Mythos 5 액세스를 비활성화해야했습니다. Anthropic의 다른 AI 모델은 여전히 ​​사용할 수 있습니다.

Mythos는 Anthropic이 개발한 가장 강력한 AI 모델입니다. 이 모델은 소프트웨어의 보안 취약점을 찾는 능력이 높기 때문에 4월에 제한적으로 출시되었습니다.

TechCrunch이 인용 한 Anthropic의 설명에 따르면, Mythos는 회사가 테스트 한 다양한 주요 운영 체제 및 브라우저에서 취약점을 발견 할 수있었습니다.

이러한 기능은 매우 민감한 것으로 간주되기 때문에 Anthropic은 널리 액세스 할 수 없습니다. 회사는 Mythos를 사용할 수있는 약 50 개의 선택된 조직 만 허용하며, 이는 Amazon, Apple, Google, Microsoft 및 CrowdStrike를 포함하여 사이버 보안 방어를 위해 Project Glasswing이라는 프로그램을 통해 사용할 수 있습니다.

한편, 며칠 전에 출시 된 Fable 5는 보호 레일 또는 안전 울타리를 갖춘 Mythos 버전입니다. 이 기술은 사이버 보안 및 생물학과 같은 위험이 높은 영역에 AI가 답변을 제공하는 것을 방지하도록 설계되었습니다.

AI 기술 성능을 모니터링하는 연구소 인 Vals AI의 테스트에 따르면 Fable 5는 일반 대중에게 제공되는 가장 첨단 AI 모델 중 하나로 알려져 있습니다.

TechCrunch이 인용한 회사 블로그에서 Anthropic은 Fable 5에 대한 탈옥 의혹과 관련하여 정부의 우려를 언급했습니다.

AI 세계에서 탈옥은 개발자가 설정한 보안 규칙이나 제한을 넘어 AI 모델을 만드는 기술입니다.

그러나 Anthropic는 정부는 지금까지 모든 조건에 적용되지 않고 제한된 탈옥 가능성에 대해서만 구두로 증거를 제시했다고 말했습니다.

Anthropic에 따르면 프로그램 코드를 읽고 소프트웨어 취약점을 찾을 수 있는 능력은 OpenAI의 GPT-5.5를 포함한 다른 공개적으로 사용할 수 있는 AI 모델에서도 사용할 수 있습니다. 이러한 능력은 사이버 보안 전문가가 디지털 시스템을 보호하는 데 오랜 시간 동안 사용되어 왔습니다.

Anthropic은 또한 주요 보호 시스템이 독립적 인 분류자, 즉 AI 출력을 모니터링하고 필터링하는 별도의 감시 시스템을 통해 작동한다고 설명했습니다. 이러한 메커니즘을 통해, 모델의 초기 거절을 우회하려는 시도에도 불구하고 유해한 것으로 간주되는 결과에 대한 보호가 계속 작동할 수 있습니다.

그럼에도 불구하고 미국 정부는 여전히 결정을 시행하고 있습니다. 안트로픽은 이러한 조치에 대한 반대를 표명했습니다.

"제한된 잠금 해제 가능성의 발견이 수백만 명의 사람들이 사용해온 상업 모델을 철수해야 할 이유가되어서는 안된다고 생각합니다. 이러한 표준이 전체 산업에 적용되면 모든 고급 AI 개발자의 새로운 AI 모델 출시가 방해받을 수 있습니다."라고 Anthropic은 썼습니다.

이 사건은 또한 AI 산업에서 큰 논쟁을 다시 강조했습니다. 첨단 AI 능력이 얼마나 안전 이유로 제한되어야 하는지, 그리고 정부가 매우 빠르게 발전하는 기술을 어떻게 조절하는지.

이전에 OpenAI의 CEO 인 샘 알트만 (Sam Altman)은 Anthrop의 방식을 비판했습니다 ...