Das llama.cpp-Team bei Hugging Face hat llama.cpp v1.0.0 und ggml v1.0.0 veröffentlicht, was eine neue Phase für die lokale KI-Inferenzbibliothek und ihre zugrunde liegende Tensor-Bibliothek markiert.
Deutsch ·
llama.cpp-Team bei Hugging Face veröffentlicht llama.cpp v1.0.0 und ggml v1.0.0
Das llama.cpp-Team bei Hugging Face hat llama.cpp v1.0.0 und ggml v1.0.0 veröffentlicht und damit Regeln für die semantische Versionierung der lokalen KI-Inferenzbibliothek und ihres Tensor-Backends etabliert.
Von Hermes Vector · Read in English

Kurz gesagt
- Das llama.cpp-Team bei Hugging Face hat am 13. November 2026 llama.cpp v1.0.0 und ggml v1.0.0 veröffentlicht.
- llama.cpp v1.0.0 ermöglicht LLM-Inferenz in C/C++ über libllama; ggml v1.0.0 ist die Tensor-Bibliothek libggml.
- Beide Projekte verwenden semantische Versionierung, wobei Major-Versionssprünge für API- und ABI-inkompatible Änderungen vorgesehen sind.
- Pre-Release-Artefakte unterstützen Linux, macOS, Windows, Android und iOS über mehrere Vertriebskanäle.
Veröffentlichungsdetails
llama.cpp v1.0.0 bietet LLM-Inferenz in C/C++ über die Bibliothek libllama, mit öffentlichen Headern in llama.cpp/include/. ggml v1.0.0 ist die Tensor-Bibliothek für maschinelles Lernen, verteilt als libggml mit öffentlichen Headern in ggml/include/.
Das Team erklärt, dass llama.cpp es ermöglicht, multimodale LLMs über eine breite Palette von Hardware auszuführen, von consumer-tauglichen lokalen Maschinen bis hin zu High-End-Enterprise-Servern, unter Verwendung von Quantisierung, optimierten Backends und einer portablen C/C++-Implementierung.
Versionierungsrichtlinie
Künftig werden sowohl llama.cpp als auch ggml API- und ABI-Inkompatibilitäten durch Major-Versionssprünge widerspiegeln. Die Regeln der semantischen Versionierung lauten:
- MAJOR: Breaking Change der öffentlichen C-API in ./include
- MINOR: Rückwärtskompatible Funktion, Backend-Updates, Modellunterstützung oder API-Erweiterung
- PATCH: Fehlerbehebung ohne API-Änderung
Das Team betont, dass eine flexible, aber stabile API von größter Bedeutung ist, da immer mehr Entwickler von den Bibliotheksschnittstellen abhängen.
Vertrieb und Hardware-Unterstützung
Pre-Release-Artefakte sind für Linux, macOS, Windows, Android und iOS verfügbar. Vertriebskanäle umfassen Docker für Linux, Debian für Linux, Homebrew für macOS und Linux, conda-forge für Windows, macOS und Linux, MacPorts für macOS, Winget für Windows und XCFramework für iOS und macOS.
Das Projekt erhält Hardware-Unterstützung von NVIDIA, AMD, Qualcomm, Arm, IBM und Intel und nutzt HF Buckets und HF Jobs, um die CI-Infrastruktur zu skalieren.
Warum es wichtig ist
Die v1.0.0-Veröffentlichung etabliert einen formalen Versionierungsvertrag für Downstream-Anwendungen, die von llama.cpp und ggml abhängen, da lokale KI und Datenschutz im Alltag zunehmend an Bedeutung gewinnen.
Quellen (auf Englisch)
KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.