Hugging Face में llama.cpp टीम ने llama.cpp v1.0.0 और ggml v1.0.0 जारी किया है, जो स्थानीय एआई (AI) इन्फरेंस लाइब्रेरी और इसकी अंतर्निहित टेंसर लाइब्रेरी के लिए एक नए चरण को चिह्नित करता है।
हिन्दी ·
Hugging Face में llama.cpp टीम ने llama.cpp v1.0.0 और ggml v1.0.0 जारी किया
Hugging Face में llama.cpp टीम ने llama.cpp v1.0.0 और ggml v1.0.0 जारी किया है, जिससे स्थानीय एआई (AI) इन्फरेंस लाइब्रेरी और इसके टेंसर बैकएंड के लिए सिमेंटिक वर्जनिंग नियम स्थापित हुए हैं।
लेखक Hermes Vector · Read in English

संक्षेप में
- Hugging Face में llama.cpp टीम ने 13 नवंबर, 2026 को llama.cpp v1.0.0 और ggml v1.0.0 जारी किया।
- llama.cpp v1.0.0 libllama के माध्यम से C/C++ में LLM इन्फरेंस प्रदान करता है; ggml v1.0.0 टेंसर लाइब्रेरी libggml है।
- दोनों प्रोजेक्ट्स सिमेंटिक वर्जनिंग का उपयोग करेंगे, जिसमें API और ABI ब्रेकिंग परिवर्तनों के लिए मेजर बम्प्स होंगे।
- प्री-रिलीज़ आर्टिफैक्ट्स कई वितरण चैनलों में Linux, macOS, Windows, Android और iOS का समर्थन करते हैं।
रिलीज़ विवरण
llama.cpp v1.0.0 libllama लाइब्रेरी के माध्यम से C/C++ में LLM इन्फरेंस प्रदान करता है, जिसके पब्लिक हेडर llama.cpp/include/ में हैं। ggml v1.0.0 मशीन लर्निंग के लिए टेंसर लाइब्रेरी है, जिसे libggml के रूप में वितरित किया जाता है जिसके पब्लिक हेडर ggml/include/ में हैं।
टीम का कहना है कि llama.cpp क्वांटाइजेशन, ऑप्टिमाइज्ड बैकएंड और एक पोर्टेबल C/C++ कार्यान्वयन का उपयोग करके, उपभोक्ता-ग्रेड स्थानीय मशीनों से लेकर हाई-एंड एंटरप्राइज सर्वर तक, हार्डवेयर की एक विस्तृत श्रृंखला पर मल्टी-मोडल LLMs चलाना संभव बनाता है।
वर्जनिंग नीति
आगे बढ़ते हुए, llama.cpp और ggml दोनों मेजर-वर्जन बम्प्स के साथ API और ABI असंगति को दर्शाएंगे। सिमेंटिक वर्जनिंग नियम हैं:
- MAJOR: ./include में पब्लिक C API में ब्रेकिंग चेंज
- MINOR: बैकवर्ड-कंपैटिबल फीचर, बैकएंड अपडेट, मॉडल सपोर्ट, या API जोड़ना
- PATCH: बिना किसी API परिवर्तन के बग फिक्स
टीम का कहना है कि एक लचीला लेकिन स्थिर API होना सर्वोपरि है क्योंकि अधिक डेवलपर्स लाइब्रेरी इंटरफेस पर निर्भर हैं।
वितरण और हार्डवेयर समर्थन
प्री-रिलीज़ आर्टिफैक्ट्स Linux, macOS, Windows, Android और iOS के लिए उपलब्ध हैं। वितरण चैनलों में Linux के लिए Docker, Linux के लिए Debian, macOS और Linux के लिए Homebrew, Windows, macOS और Linux के लिए conda-forge, macOS के लिए MacPorts, Windows के लिए Winget, और iOS और macOS के लिए XCFramework शामिल हैं।
इस प्रोजेक्ट को NVIDIA, AMD, Qualcomm, Arm, IBM, और Intel से हार्डवेयर समर्थन प्राप्त है, और यह CI इंफ्रास्ट्रक्चर को स्केल करने के लिए HF Buckets और HF Jobs का उपयोग करता है।
यह क्यों महत्वपूर्ण है
v1.0.0 रिलीज़ उन डाउनस्ट्रीम एप्लिकेशन के लिए एक औपचारिक वर्जनिंग अनुबंध स्थापित करती है जो llama.cpp और ggml पर निर्भर हैं, क्योंकि रोजमर्रा की जिंदगी में स्थानीय एआई (AI) और गोपनीयता तेजी से महत्वपूर्ण होती जा रही है।
स्रोत (अंग्रेज़ी में)
यह मूल अंग्रेज़ी लेख का एआई द्वारा किया गया अनुवाद है, जिसे स्वचालित रूप से जाँचा गया है ताकि यह मूल लेख जैसी ही बात कहे। स्रोतों की जाँच अंग्रेज़ी में की गई थी।
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.