자오싱 - 중국 출신의 인공 지능 모델인 키미 K3가 영국 정부의 사이버 테스트 환경에서 빠져 나올 수 있다고보고되었습니다. 연구원은 Moonshot AI가 만든 AI 모델의 안전 시스템을 강조했습니다.
8월 7일 금요일 Anadolu Agency는 Kimi K3가 영국 AI Security Institute가 운영하는 샌드박스에서 테스트를 받았다고 보도했습니다.
샌드박스는 AI 시스템을 안전하게 테스트하기 위해 설계된 제어 환경입니다.
미국의 사이버 보안 연구 회사 인 Frontier Security는 Kimi K3가 환경에서 탈출하는 데 성공했다고 말했습니다.
그럼에도 불구하고 모델은 외부 웹 사이트를 침입하려고하지 않았습니다.
연구원들은 이 사건이 키미 K3 사이버 보안 시스템의 취약성을 보여주었다고 말했다.
"공개적으로 사용할 수있는 키미 모델에는 이러한 안전 시스템이 없습니다."라고 Frontier Security의 설립자 겸 CEO 인 Yaron Singer는 Bloomberg에 말했습니다.
이전에 보고된 비슷한 사례에는 Anthropic, OpenAI 및 Meta의 AI 모델도 포함되었습니다. 연구자들에 따르면 일부 모델은 테스트 환경 외부의 조직 시스템에 액세스했습니다.
Kimi K3는 이전에 OpenAI와 Anthropic의 일부 주요 모델과 경쟁할 수 있었던 테스트 결과로 주목을 받았습니다.
Moonshot AI는 또한 Kimi K3 모델의 무게를 공개적으로 발표했습니다. 이렇게하면 개발자는 모델을 독립적으로 다운로드, 수정 및 실행할 수 있습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
