[이데일리 김현아 기자] 몽샷 AI가 총 2조8000억개의 매개변수를 가진 인공 지능 모델인 키미 K3의 전체 무게를 공개했다. 중국 베이징에 본사를 둔 스타트업인 몽샷 AI는 키미 K3를 3조개의 매개변수를 가진 세계 최초의 오픈소스 모델이라고 주장했다.
Yicai Global은 7월 29일 수요일, 7월 27일 Hugging Face에 모델의 무게가 업로드되었음을보고했습니다. Moonshot AI는 또한 훈련 인프라의 세 가지 주요 기술, 즉 MoonEP, FlashKDA 및 AgentEnv에 대한 기술 보고서를 발표했습니다.
Kimi K3는 수정된 MIT 라이센스로 출시되었습니다. 이 라이센스를 통해 개발자는 모델을 로컬로 다운로드, 변경, 개선 및 실행할 수 있습니다.
모델의 무게는 AI 시스템이 정보를 처리하고 답변을 생성하는 방법을 결정하는 값의 집합입니다.
Moonshot AI는 엔비디아 H200 칩과 다른 제조업체의 그래픽 처리 장치를 사용하여 Kimi K3를 테스트했습니다. 테스트는 Kimi K3 적용이 엔비디아 생태계에 국한되지 않았음을 보여주었습니다.
Kimi K3에는 총 2.8 조개의 매개 변수가 있습니다. 그러나 모델이 특정 작업을 수행할 때 활성화되는 매개 변수는 1040억 개에 불과합니다.
이 모델은 전문가의 혼합을 사용합니다. 이 시스템에서 각 토큰은 전문가라고 불리는 896 개의 특수 부분 중 16 개만 활성화합니다.
토큰은 AI 모델에서 처리되는 작은 단위입니다. 형태는 단어, 단어 조각, 숫자 또는 문자 형태일 수 있습니다.
Kimi K3는 또한 Kimi Delta Attention 메커니즘과 Moonshot AI의 Attention Residuals 기술을 사용합니다. 이 기술은 시각적 이해와 1백만 개의 토큰에 이르는 맥락 창을 지원합니다.
Kimi K2와 비교할 때, Kimi K3의 확장 효율은 약 2.5 배 향상되었다고 주장됩니다.
Moonshot AI의 기술 보고서에 따르면 Kimi K3는 수십 가지 테스트에서 모든 오픈 소스 모델과 대부분의 폐쇄적 모델을 능가했습니다. 테스트에는 일련의 작업을 수행 할 수있는 AI 에이전트의 프로그래밍, 추론, 시각적 능력 및 워크플로가 포함됩니다.
아레나 인텔리전스의 웹 개발 아레나에서 키미 K3는 1,679의 Elo 점수를 얻었습니다. Moonshot AI는 이 결과가 그 순위표에서 최고 자리를 차지한 최초의 오픈 소스 모델이라고 말했습니다.
Kimi K3는 또한 인공 분석 인텔리전스 지수 버전 4.1에서 57.1점을 기록했습니다. 이 결과는 전 세계적으로 4위를 차지했습니다.
그럼에도 불구하고 보고서는 키미 K3의 성능이 클로드 펠레 5와 GPT-5.6 솔에 비해 여전히 약간 뒤처져 있다고 말했습니다.
Moonshot AI는 Kimi K3의 무게, 기술 보고서 및 지원 기술의 개방은 최첨단 AI 사용을 가속화하는 것을 목표로한다고 말했습니다. 이 조치는 또한 인공 지능의 일반 지능 연구를 촉진하기위한 것입니다.
회사는 이러한 출시가 2.8 조 매개 변수 단계에 오픈 소스 대형 언어 모델의 진입을 의미한다고 평가했습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
