NVIDIA ने Moonshot AI के Kimi K2.5 मॉडल के लिए GPU-त्वरित एंडपॉइंट्स लॉन्च किए
Jessie A Ellis Feb 04, 2026 20:11
NVIDIA अब डेवलपर्स के लिए Kimi K2.5, एक 1T पैरामीटर मल्टीमॉडल AI मॉडल जिसमें 384 एक्सपर्ट्स और 262K कॉन्टेक्स्ट लेंथ है, के लिए मुफ्त GPU-त्वरित API एक्सेस प्रदान करता है।
NVIDIA ने Moonshot AI के Kimi K2.5 के लिए GPU-त्वरित एंडपॉइंट्स रोल आउट किए हैं, जो डेवलपर्स को वर्तमान में उपलब्ध सबसे सक्षम ओपन-सोर्स मल्टीमॉडल मॉडल्स में से एक तक मुफ्त API एक्सेस प्रदान करता है। 4 फरवरी, 2026 को घोषित यह इंटीग्रेशन, NVIDIA के build.nvidia.com प्लेटफॉर्म के माध्यम से तेजी से एंटरप्राइज़ अपनाने के लिए 1 ट्रिलियन पैरामीटर मॉडल को तैयार करता है।
Kimi K2.5 गंभीर तकनीकी विशिष्टताओं से भरा है जो प्रोडक्शन डिप्लॉयमेंट के लिए महत्वपूर्ण हैं। मॉडल 384 एक्सपर्ट्स के साथ Mixture-of-Experts आर्किटेक्चर का उपयोग करता है, प्रति टोकन केवल 32.86 बिलियन पैरामीटर्स को सक्रिय करता है—3.2% सक्रियण दर जो विशाल पैरामीटर काउंट के बावजूद इन्फरेंस लागत को प्रबंधनीय रखती है। कॉन्टेक्स्ट लेंथ 262,000 टोकन तक फैली हुई है, जो पर्याप्त दस्तावेज़ विश्लेषण और विस्तारित बातचीत को संभालती है।
विज़न क्षमताएं ध्यान देने योग्य हैं। Moonshot ने एक कस्टम MoonViT3d Vision Tower बनाया जो छवियों और वीडियो फ्रेम्स को एम्बेडिंग्स में प्रोसेस करता है, जिसे 164,000-टोकन शब्दावली द्वारा समर्थित किया जाता है जिसमें विज़न-विशिष्ट टोकन शामिल हैं। यह बोल्टेड-ऑन मल्टीमॉडलिटी नहीं है—यह आर्किटेक्चर के लिए मूल है।
डेवलपर्स को क्या मिलता है
NVIDIA के Developer Program के माध्यम से मुफ्त प्रोटोटाइपिंग एक्सेस का मतलब है कि टीमें इन्फ्रास्ट्रक्चर को प्रतिबद्ध करने से पहले प्रोडक्शन वर्कलोड्स के खिलाफ परीक्षण कर सकती हैं। API OpenAI-संगत पैटर्न का पालन करता है, जिसमें एजेंटिक वर्कफ़्लो के लिए टूल कॉलिंग सपोर्ट शामिल है। कंटेनराइज़्ड प्रोडक्शन इन्फरेंस के लिए NVIDIA NIM माइक्रोसर्विसेज़ आ रही हैं, हालांकि कोई विशिष्ट समयसीमा प्रदान नहीं की गई थी।
सेल्फ-होस्टेड डिप्लॉयमेंट के लिए, vLLM इंटीग्रेशन अभी तैयार है। NVIDIA ने ओपन-सोर्स NeMo Framework के माध्यम से फाइन-ट्यूनिंग सपोर्ट की भी पुष्टि की, NeMo AutoModel का उपयोग करके बिना कन्वर्ज़न स्टेप्स के सीधे Hugging Face चेकपॉइंट्स से मॉडल को कस्टमाइज़ करना।
बाजार संदर्भ
Moonshot AI ने 27 जनवरी, 2026 को Kimi K2.5 रिलीज़ किया, इसे पहले के K2 फाउंडेशन के ऊपर बने लगभग 15 ट्रिलियन मिश्रित विज़ुअल और टेक्स्ट टोकन पर प्रशिक्षित किया। मॉडल ने Google के Gemini 3 Pro से सीधी तुलना आकर्षित की है, जिसमें MMMU-Pro विज़ुअल अंडरस्टैंडिंग टेस्ट पर 78.5% स्कोर और कोडिंग कार्यों के लिए SWE-Bench Verified पर 76.8% सहित प्रतिस्पर्धी बेंचमार्क पोस्ट किए हैं।
एक विभेदक विशेषता: "Agent Swarm" तंत्र जो 100 समानांतर सब-एजेंट्स तक समन्वय करता है, कथित तौर पर सिंगल-एजेंट दृष्टिकोण की तुलना में निष्पादन समय को 4.5x तक कम करता है। जटिल स्वायत्त प्रणाली बनाने वाले एंटरप्राइज़ेज़ के लिए, यह एक सार्थक क्षमता अंतर है।
NVIDIA का Blackwell आर्किटेक्चर सपोर्ट सुझाव देता है कि कंपनी Kimi K2.5 को एंटरप्राइज़ AI डिप्लॉयमेंट में एक गंभीर दावेदार के रूप में देखती है। डेवलपर्स build.nvidia.com के माध्यम से या सीधे Moonshot से Kimi API Platform के माध्यम से तुरंत मॉडल तक पहुंच सकते हैं।
छवि स्रोत: Shutterstock- nvidia
- kimi k2.5
- moonshot ai
- मल्टीमॉडल ai
- gpu कंप्यूटिंग
