AI Anthropic 모델은 보안 테스트 중에 세 가지 조직의 시스템에 액세스합니다.

자카르타 - Anthropic은 테스트 중에 AI 모델이 세 개의 외부 조직의 시스템에 무단으로 액세스했다고 인정했습니다. 실제로, 테스트 과정은 모델을 실제 시스템에서 멀리 유지해야했습니다.

유로뉴스는 7월 31일 금요일, 오픈아이가 비슷한 사건을 밝힌 지 며칠 만에 인류학적 인정이 나왔다고 보도했다. 오픈아이의 AI 모델은 테스트 환경에서 벗어나 인터넷에 연결되어 다른 조직의 사이버 공간에 침투했다고 말했다.

Anthropic은 자체의 인공 지능 모델이 테스트 과정에서 세 개의 외부 조직에 무단 액세스를 받았다고 말했습니다. 회사는 영향을받은 조직의 이름을 언급하지 않았습니다.

AI는 일반적으로 인간의 지능이 필요한 작업을 수행하도록 설계된 기술입니다.

Anthropic은 141,000건 이상의 평가 테스트를 평가했습니다. 이 과정에서 회사는 클로드 모델의 세 가지 다른 버전이 세 조직의 시스템에 부적절하게 액세스했다는 것을 발견했습니다.

OpenAI 사건과는 달리, Anthropic은 회사와 평가 파트너 인 Irregular 사이에 오해가 있었기 때문에 모델이 인터넷에 액세스 할 수 있다고 말했습니다.

그럼에도 불구하고 클로드는 기본 기술을 사용하는 것으로 알려져 있습니다. 그 중 하나는 약한 암호와 인증되지 않은 엔드 포인트를 악용하는 것입니다.

엔드포인트는 디지털 시스템의 액세스 포인트입니다. 인증되지 않으면 시스템에 대한 충분한 ID 검사 없이 액세스할 수 있습니다.

관련된 모델 중 하나는 Mythos 5입니다. 이 모델은 Anthropic의 가장 강력한 AI 모델 중 하나이며, 이미 승인된 제한된 수의 파트너에게 출시되었습니다.

Anthropic은 이러한 상황을 평가하기 위해 Irregular과 협력하고 있다고 말했습니다. 회사는 또한 영향을받은 세 개의 조직에 연락하거나 연락하려고했습니다.

이 사건은 AI 산업이 고급 모델의 안전성과 보안에 대한 비난을 받고있는 가운데 발생했습니다. OpenAI와 Anthropic은 모두 올해 가장 강력한 모델을 출시했으며 각각 Sol과 Mythos로 알려져 있습니다.

AI 에이전트에 대한 우려도 제기되고 있습니다. AI 에이전트는 일반적인 챗봇과 같이 질문에 답하는 것뿐만 아니라 독립적으로 작업을 수행하도록 설계된 소프트웨어입니다.

지난 주 오픈AI는 테스트 중에 모델이 제한된 환경을 벗어났다고 인정했습니다. 모델은 인터넷에 연결되어 개발자가 코드를 저장하고 공유하는 Hugging Face 사이트에 침투했습니다.

며칠 후, OpenAI는 세 가지 추가 사건을 발견했다고 말했습니다.

OpenAI의 CEO 인 샘 알트만 (Sam Altman)은 이번 주 팟 캐스트에서 회사가 사건 이후 테스트를 일시적으로 중단했다고 말했습니다. OpenAI는 샌드박싱 프로세스 주변의 보안을 개선했습니다.

샌드박스는 테스트가 외부 시스템에 영향을 미치지 않도록 제어된 환경에서 소프트웨어를 격리하는 과정입니다.

유로뉴스는 이 사건이 또한 선도적 인 인공 지능 회사의 1,000 명 이상의 직원이 서명한 청원서를 불러 일으켰다고 말했습니다. 그들은 미국 정부가 가장 진보 된 인공 지능 모델의 출시를 늦추는 데 도움을 요청했습니다.

Anthropic의 CEO 인 다리오 아모데이는 청원서에 서명 한 사람 중 한 명입니다.

선두에 서기라는 제목의 청원서는 미국 정부가 자동화된 AI 개발의 가장 진보된 속도를 조절할 수 있도록 기술적 장치와 관리를 개발하는 데 대한 국제 노력을 지원할 것을 요청합니다.

알트만은 청원서에 서명하지 않았다. 그러나 그는 기술 산업이 고급 AI 모델 개발을 늦출 필요가있을 수 있다고 말했습니다.

"우리는 AI 개발의 속도를 조절해야 할 수도 있습니다. 그래서 우리는 사람들이이 새로운 능력의 여러 수준에 직면 할 수 있도록 자신을 강화할 충분한 시간을 가질 수 있습니다."라고 Altman은 말했습니다.

올해 초 트럼프 정부는 국가 안보 이유를 들어 OpenAI와 Anthropic이 최신 모델을 출시하는 것을 차단했습니다. 그러나 정부는 나중에 두 회사의 안전 보장에 만족했다고 말했고 모델이 출시되었습니다.

트럼프는 6월 자발적 틀을 형성하는 행정 명령에 서명했습니다. 이 틀에서 AI 개발자는 공개되기 전에 정부에 고급 모델을 공유합니다.

이 틀에 따라 OpenAI, Anthropic 및 Google과 같은 개발자는 정부가 출시 계획의 30 일 전에 가장 강력한 모델에 액세스 할 수 있도록합니다.