Moonshot AI ने 2.8 ट्रिलियन पैरामीटर के AI मॉडल के साथ किमी K3 का वजन खोया
JAKARTA - Moonshot AI ने कुल 2.8 ट्रिलियन पैरामीटर के साथ आर्टिफीसियल इंटेलिजेंस मॉडल किमी K3 का पूरा वजन खोला। बीजिंग की स्टार्टअप कंपनी ने किमी K3 को 3 ट्रिलियन पैरामीटर वर्ग में दुनिया का पहला ओपन सोर्स मॉडल होने का दावा किया।
Yicai Global ने बुधवार, 29 जुलाई को उद्धृत किया, रिपोर्ट की, मॉडल का वजन 27 जुलाई को Hugging Face पर अपलोड किया गया था। मूनशॉट एआई ने प्रशिक्षण के बुनियादी ढांचे के लिए तकनीकी रिपोर्ट और तीन प्रमुख तकनीकों, मूनईपी, फ्लैशकेडीए और एजेंटएनवीडब्ल्यू भी जारी किया।
Kimi K3 को MIT लाइसेंस के साथ जारी किया गया है जिसे संशोधित किया गया है। लाइसेंस डेवलपर्स को मॉडल को स्थानीय रूप से डाउनलोड, बदलने, सुधारने और चलाने की अनुमति देता है।
मॉडल का वजन उन मूल्यों का एक समूह है जो यह निर्धारित करता है कि एआई सिस्टम जानकारी को कैसे संसाधित करता है और उत्तर कैसे उत्पन्न करता है.
मूनशॉट एआई ने एनवीडिया H200 चिप और अन्य निर्माताओं के ग्राफिक प्रोसेसिंग यूनिट का उपयोग करके किमी K3 का परीक्षण किया। परीक्षण से पता चला कि किमी K3 का उपयोग एनवीडिया पारिस्थितिकी तंत्र तक ही सीमित नहीं है।
K3 में कुल 2.8 ट्रिलियन पैरामीटर हैं। हालाँकि, मॉडल द्वारा किसी विशेष कार्य को चलाने पर केवल 104 बिलियन पैरामीटर सक्रिय होते हैं।
मॉडल विशेषज्ञों के मिश्रण की वास्तुकला का उपयोग करता है। इस प्रणाली में, प्रत्येक टोकन केवल 896 विशेष भागों में से 16 को सक्रिय करता है जिन्हें विशेषज्ञ कहा जाता है।
टोकन एक छोटी इकाई है जिसे एआई मॉडल द्वारा संसाधित किया जाता है। इसका आकार शब्द, शब्द टुकड़े, संख्या या व्याकरण हो सकता है।
Kimi K3 भी मूनशॉट एआई के किमी डेल्टा अटेंशन और अटेंशन रिसाइरस टेक्नोलॉजी का उपयोग करता है। यह तकनीक एक मिलियन टोकन तक दृश्य और संदर्भ खिड़की की समझ का समर्थन करती है।
किमी K2 की तुलना में, किमी K3 के स्केलिंग दक्षता में लगभग 2.5 गुना वृद्धि का दावा किया गया है।
मूनशॉट एआई की तकनीकी रिपोर्ट के अनुसार, किमी K3 ने दर्जनों परीक्षणों में सभी ओपन सोर्स मॉडल और अधिकांश कवर मॉडल को पीछे छोड़ दिया। परीक्षण में प्रोग्रामिंग, तर्क, दृश्य क्षमता और एआई एजेंट कार्यप्रवाह शामिल हैं जो कार्यों की एक श्रृंखला चला सकते हैं।
एरिना इंटेलिजेंस के वेबडेव एरिना में, किमी K3 ने एलो स्कोर 1.679 हासिल किया। मूनशॉट एआई ने कहा कि यह परिणाम इसे पहले ओपन सोर्स मॉडल बनाता है जो रैंकिंग बोर्ड में शीर्ष स्थान पर है।
किमी K3 ने आर्टिफीसियल एनालिसिस इंटेलिजेंस इंडेक्स संस्करण 4.1 पर 57.1 स्कोर भी बनाया। यह परिणाम उसे दुनिया में चौथे स्थान पर रखता है।
हालांकि, रिपोर्ट में कहा गया है कि किमी K3 का प्रदर्शन अभी भी क्लाउड फेबेल 5 और GPT-5.6 सोल से थोड़ा पीछे है।
मूनशॉट एआई ने कहा कि किमी K3 के वजन, तकनीकी रिपोर्ट और सहायक तकनीकों को उद्घाटन का उद्देश्य अत्याधुनिक एआई के उपयोग को तेज करना है। यह कदम कृत्रिम सामान्य बुद्धि अनुसंधान को बढ़ावा देने के लिए भी है।
कंपनी ने मूल्यांकन किया कि लॉन्च 2.8 ट्रिलियन पैरामीटर के चरण में ओपन-सोर्स बड़े भाषा मॉडल के प्रवेश का प्रतीक है।