Hugging Face और OpenRouter ओपन-वेट मॉडल्स को चलाना आसान बनाने के लिए साथ आ रहे हैं। हर प्रमुख ओपन-वेट रिलीज़ Hugging Face Hub पर प्रकाशित की जाती है, और OpenRouter उन मॉडल्स को बड़े पैमाने पर सेवा प्रदान करता है, जो प्रत्येक एक के लाइव माप के आधार पर 80+ प्रोवाइडर्स के बीच प्रत्येक अनुरोध को रूट करता है। साथ मिलकर, Hub पर मौजूद प्रत्येक ओपन-वेट मॉडल जिसे कोई प्रोवाइडर सेवा देता है, उसे उसी API के माध्यम से Hugging Face टोकन के साथ कॉल किया जा सकता है, जिसमें प्रत्येक अनुरोध के लिए सबसे अच्छे प्रोवाइडर को चुना जाता है।

आज, Hugging Face अपने स्वयं के कस्टम राउटर से Inference Providers को OpenRouter के पास स्विच कर रहा है। लैंग्वेज मॉडल्स को किए गए अनुरोध अब OpenRouter के माध्यम से जाते हैं, जो लाइव कीमत, गति और विश्वसनीयता के आधार पर प्रत्येक कॉल के लिए सबसे अच्छा प्रोवाइडर चुनता है, और यदि पहला विफल हो जाता है तो दूसरे प्रोवाइडर पर पुनः प्रयास (retry) करता है। यूजर कोड वही रहता है।

राउटर हर चैट मॉडल के लिए, चाहे उसके पीछे का प्रोवाइडर कोई भी हो, OpenAI के Chat Completions और Responses APIs और Anthropic के Messages API का समर्थन करता है। Claude Code, Codex, OpenCode, Pi और Hermes Agent के लिए सेटअप गाइड उपलब्ध हैं।

वही Hugging Face टोकन उपयोगकर्ताओं को Storage Buckets के साथ स्टोरेज, Jobs के साथ कंप्यूट और Inference Endpoints के साथ समर्पित इन्फरेंस भी प्रदान करता है। PRO, Team और Enterprise प्लान में कंप्यूट और इन्फरेंस के लिए मासिक क्रेडिट शामिल हैं।

OpenRouter के अनुसार, अक्टूबर 2026 में, OpenRouter के डेटा के मुताबिक, ओपन-वेट मॉडल्स का हिस्सा अक्टूबर 2025 में सेवा दिए गए टोकन के 26.8% से बढ़कर सितंबर 2026 के अंत तक 71.7% हो गया, जो जुलाई में 77.5% के शिखर पर था। इसी अवधि के दौरान, क्लोज्ड मॉडल्स के लगभग दस गुना की तुलना में, साप्ताहिक ओपन-वेट वॉल्यूम 60 गुना से अधिक बढ़ गया। इस सप्ताह, OpenRouter पर सबसे अधिक उपयोग किया जाने वाला मॉडल एक ओपन-वेट मॉडल, DeepSeek V4.1 Flash 1017 है, जिसमें 59.2 ट्रिलियन टोकन हैं।

OpenRouter 80+ प्रोवाइडर्स के 600+ मॉडल्स के माध्यम से 10 मिलियन से अधिक उपयोगकर्ताओं को प्रति माह 800 ट्रिलियन से अधिक टोकन प्रदान करता है। इसका रूटिंग उस ट्रैफ़िक में प्रत्येक प्रोवाइडर के लाइव माप पर आधारित है।

OpenRouter ने हाल ही में अपने प्रोवाइडर रूटिंग को फिर से बनाया है: केवल सबसे कम लिस्ट प्राइस को देखने के बजाय, यह प्रत्येक अनुरोध को कीमत, गति और विश्वसनीयता के सर्वोत्तम मिश्रण वाले प्रोवाइडर को भेजता है। जब कोई प्रोवाइडर धीमा हो जाता है या विफल होने लगता है, तो ट्रैफ़िक उससे हट जाता है जब तक कि वह ठीक न हो जाए, और एक विफल प्रयास को उसी कॉल के भीतर अगले सबसे अच्छे प्रोवाइडर पर पुनः प्रयास किया जाता है। OpenRouter के मापों में, नए रूटिंग ने कैपेसिटी एरर्स को 46% कम कर दिया और 'time to first token' में 16.9% और थ्रूपुट में 16.3% का सुधार किया।

पहले, Inference Providers एक अनुरोध के लिए एक प्रोवाइडर चुनते थे और यदि वह विफल हो जाता था तो उसका एरर लौटाते थे। अब, अनुरोध को दूसरे प्रोवाइडर पर पुनः प्रयास किया जाता है। उपयोगकर्ता अभी भी मॉडल id पर एक प्रत्यय (suffix) के साथ पॉलिसी या प्रोवाइडर चुन सकते हैं:

zai-org/GLM-5.3 # डिफ़ॉल्ट: कीमत, गति और विश्वसनीयता का सर्वोत्तम मिश्रण zai-org/GLM-5.3:fastest # उच्चतम थ्रूपुट zai-org/GLM-5.3:cheapest # सबसे कम कीमत zai-org/GLM-5.3:novita # केवल Novita

रूटिंग कैश-अवेयर (cache-aware) भी है: एक बातचीत उसी प्रोवाइडर पर रहती है जिसके पास उसका प्रॉम्प्ट कैश होता है। इसे स्पष्ट करने के लिए, उपयोगकर्ता X-HF-Session-Id हेडर में प्रति बातचीत एक स्थिर UUID भेज सकते हैं।

कीमत नहीं बदलती है: उपयोगकर्ता अपने Hugging Face बिल पर प्रोवाइडर की कीमत चुकाते हैं, और Hugging Face उस पर कोई मार्काअप नहीं जोड़ता है। PRO उपयोगकर्ताओं को हर महीने $2 का क्रेडिट मिलता है, और Team और Enterprise संगठनों को $2 प्रति सीट मिलता है।

इमेज, वीडियो और ऑडियो जनरेशन पहले की तरह ही काम करना जारी रखते हैं, OpenRouter के माध्यम से जाने के बजाय सीधे Hugging Face Inference Providers के माध्यम से। उपयोगकर्ता उसी टोकन और API का उपयोग करना जारी रख सकते हैं, और tens of thousands (दशकों हज़ार) LoRAs तक पहुँच प्राप्त कर सकते हैं।

मॉडल पेजों पर, उपयोगकर्ता विजेट में सीधे मॉडल के साथ चैट कर सकते हैं। दो नए टैब दिखाते हैं कि इसके पीछे क्या है: 'Providers' हर उस प्रोवाइडर की सूची देता है जिसे OpenRouter मॉडल को रूट कर सकता है, जिसमें इसकी इनपुट और आउटपुट कीमत, गति और पिछले 24 घंटों में अपटाइम शामिल है, और 'Metrics' उनमें सबसे अच्छी कीमत, थ्रूपुट, time to first token, कॉन्टेक्स्ट लेंथ और अपटाइम दिखाता है। एक 'usage overview' प्रत्येक अनुरोध जिस प्रोवाइडर के पास गया, उसके आधार पर खर्च का विवरण देता है।

सेटिंग्स में, उपयोगकर्ता किसी भी ऐसे प्रोवाइडर को बंद कर सकते हैं जिसे वे नहीं चाहते: राउटर वहां कभी अनुरोध नहीं भेजता है। संगठनों के पास भी समान सेटिंग्स होती हैं, और वे संगठन को बिल किए गए प्रत्येक अनुरोध पर लागू होती हैं।

लैंग्वेज मॉडल्स के अनुरोध अब OpenRouter के माध्यम से जाते हैं और उपयोगकर्ता के Hugging Face खाते या संगठन को बिल किए जाते हैं, इसलिए उपयोगकर्ता अब इन मॉडल्स के लिए किसी प्रोवाइडर के लिए अपनी स्वयं की API कुंजी का उपयोग नहीं कर सकते। उपयोगकर्ता अभी भी मॉडल id पर प्रत्यय के साथ एक प्रोवाइडर चुन सकते हैं या सेटिंग्स में प्रोवाइडर्स को बंद कर सकते हैं, और कोड वही रहता है। इमेज और वीडियो प्रोवाइडर्स के लिए कस्टम कुंजियाँ (keys) काम करना जारी रखती हैं।

यह OpenRouter के साथ साझेदारी का पहला कदम है। अगला: Hugging Face से OpenRouter खाता जोड़ें, और OpenRouter के माध्यम से अधिक कार्यों को रूट करें।


स्रोत (अंग्रेज़ी में)

यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।