Hugging Face पर 13 नवंबर, 2026 को प्रकाशित एक लेख के अनुसार, ggml-org टीम ने llama.cpp version 1.0.0 और ggml version 1.0.0 जारी किया है। llama.cpp उपभोक्ता-ग्रेड स्थानीय मशीनों से लेकर हाई-एंड एंटरप्राइज सर्वर तक, हार्डवेयर की एक विस्तृत श्रृंखला पर मल्टी-मोडल LLMs चलाना संभव बनाता है। क्वांटाइजेशन, ऑप्टिमाइज्ड बैकएंड और एक पोर्टेबल C/C++ कार्यान्वयन के माध्यम से, यह प्रोजेक्ट सॉफ्टवेयर स्टैक के हर स्तर पर AI इन्फरेंस को सुलभ बनाता है। टीम llama.cpp को क्रॉस-प्लेटफॉर्म और निजी AI उत्पाद बनाने के लिए सबसे हल्का, बहुमुखी और समझदारी भरा प्लेटफॉर्म बताती है।

अपनी स्थापना के 3.5 वर्षों के दौरान, यह प्रोजेक्ट विकसित हुआ है, और कई डाउनस्ट्रीम एप्लिकेशन पहले से ही इसके काम पर निर्भर हैं। टीम को उम्मीद है कि यह रुझान जारी रहेगा क्योंकि दैनिक जीवन में स्थानीय AI और गोपनीयता तेजी से महत्वपूर्ण होती जा रही है। प्रत्येक नया एकीकरण मतलब अधिक डेवलपर्स लाइब्रेरी इंटरफेस पर निर्भर होंगे, इसलिए एक लचीला लेकिन स्थिर API होना सर्वोपरि है।

1.0.0 रिलीज़ के साथ, llama.cpp और ggml दोनों मेजर-वर्जन बम्प्स के साथ API और ABI असंगति को दर्शाएंगे। जैसे-जैसे इसे अपनाने की दर बढ़ेगी, टीम डाउनस्ट्रीम उपभोक्ताओं के लिए उन सीमाओं को दृश्यमान बनाने के बारे में अधिक सख्त होगी।

इस रिलीज़ में दो लाइब्रेरी शामिल हैं:

  • llama.cpp v1.0.0 - C/C++ में LLM इन्फरेंस, लाइब्रेरी libllama, llama.cpp/include/ में पब्लिक हेडर
  • ggml v1.0.0 - मशीन लर्निंग के लिए टेंसर लाइब्रेरी, लाइब्रेरी libggml, ggml/include/ में पब्लिक हेडर

प्रोजेक्ट निम्नलिखित नियमों के साथ सिमेंटिक वर्जनिंग का उपयोग करते हैं:

  • MAJOR: ./include में सार्वजनिक C API में ब्रेकिंग चेंज
  • MINOR: बैकवर्ड-कंपैटिबल फीचर, बैकएंड अपडेट, मॉडल सपोर्ट, या API जोड़
  • PATCH: बिना किसी API परिवर्तन के बग फिक्स

डिस्ट्रीब्यूशन चैनलों में Linux, macOS, Windows, Android, और iOS के लिए प्री-रिलीज़ आर्टिफैक्ट्स; Linux के लिए Docker; Linux के लिए Debian; macOS और Linux के लिए Homebrew; Windows, macOS, और Linux के लिए conda-forge; macOS के लिए MacPorts; Windows के लिए Winget; और iOS और macOS के लिए XCFramework शामिल हैं।

llama.cpp का अंतर्निहित मशीन लर्निंग इंजन ggml है, जिसे समर्पित ggml बैकएंड को लागू करके अस्तित्व में मौजूद लगभग किसी भी हार्डवेयर पर चलाने के लिए डिज़ाइन किया गया है। प्रत्येक बैकएंड को एक डायनेमिक लाइब्रेरी के रूप में कंपाइल किया जा सकता है और वैकल्पिक रूप से रनटाइम पर लोड किया जा सकता है। वर्तमान में लागू किए गए बैकएंड की पूरी सूची प्रोजेक्ट डॉक्यूमेंटेशन में उपलब्ध है।

टीम सभी मॉडल आर्किटेक्चर के निरंतर समर्थन के लिए प्रतिबद्ध है। वर्तमान में, llama.cpp 150 से अधिक आर्किटेक्चर वेरिएंट्स के साथ-साथ सभी मुख्यधारा के स्पेक्युलेटिव डिकोडिंग तरीकों का समर्थन करता है।

इस प्रोजेक्ट ने अत्यधिक कुशल और प्रतिभाशाली योगदानकर्ताओं के साथ एक ओपन-सोर्स समुदाय को बढ़ावा दिया है। सॉफ्टवेयर इंजीनियरिंग के क्षेत्र में AI क्षमताओं की तीव्र प्रगति के साथ, टीम विचारशील और उचित तरीके से अपने विकास चक्र में LLMs को अनुकूलित और एकीकृत करना जारी रखती है। उच्च गुणवत्ता वाले कोडबेस को बनाए रखना, आर्किटेक्चर पर नियंत्रण रखना और कार्यान्वयन विवरणों को समझना शीर्ष प्राथमिकता बनी रहेगी।

विकास की तेज़ गति को मजबूत करने के लिए, टीम प्रोजेक्ट्स के पीछे के CI इंफ्रास्ट्रक्चर को बेहतर बनाने में संसाधन निवेश करना जारी रखती है। NVIDIA, AMD, Qualcomm, Arm, IBM और Intel के हार्डवेयर समर्थन के साथ, टीम सभी प्रमुख हार्डवेयर प्लेटफार्मों पर अधिक सेल्फ-होस्टेड रनर्स को नामांकित करना जारी रखती है।

स्रोत (अंग्रेज़ी में)

यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।