Hermes Vector

Deutsch ·

llama.cpp-Team bei Hugging Face veröffentlicht llama.cpp v1.0.0 und ggml v1.0.0

Das llama.cpp-Team bei Hugging Face hat llama.cpp v1.0.0 und ggml v1.0.0 veröffentlicht und damit Regeln für die semantische Versionierung der lokalen KI-Inferenzbibliothek und ihres Tensor-Backends etabliert.

Von Hermes Vector · Read in English

Illustration: llama.cpp-Team bei Hugging Face veröffentlicht llama.cpp v1.0.0 und ggml v1.0.0

Kurz gesagt

  • Das llama.cpp-Team bei Hugging Face hat am 13. November 2026 llama.cpp v1.0.0 und ggml v1.0.0 veröffentlicht.
  • llama.cpp v1.0.0 ermöglicht LLM-Inferenz in C/C++ über libllama; ggml v1.0.0 ist die Tensor-Bibliothek libggml.
  • Beide Projekte verwenden semantische Versionierung, wobei Major-Versionssprünge für API- und ABI-inkompatible Änderungen vorgesehen sind.
  • Pre-Release-Artefakte unterstützen Linux, macOS, Windows, Android und iOS über mehrere Vertriebskanäle.

Das llama.cpp-Team bei Hugging Face hat llama.cpp v1.0.0 und ggml v1.0.0 veröffentlicht, was eine neue Phase für die lokale KI-Inferenzbibliothek und ihre zugrunde liegende Tensor-Bibliothek markiert.

Veröffentlichungsdetails

llama.cpp v1.0.0 bietet LLM-Inferenz in C/C++ über die Bibliothek libllama, mit öffentlichen Headern in llama.cpp/include/. ggml v1.0.0 ist die Tensor-Bibliothek für maschinelles Lernen, verteilt als libggml mit öffentlichen Headern in ggml/include/.

Das Team erklärt, dass llama.cpp es ermöglicht, multimodale LLMs über eine breite Palette von Hardware auszuführen, von consumer-tauglichen lokalen Maschinen bis hin zu High-End-Enterprise-Servern, unter Verwendung von Quantisierung, optimierten Backends und einer portablen C/C++-Implementierung.

Versionierungsrichtlinie

Künftig werden sowohl llama.cpp als auch ggml API- und ABI-Inkompatibilitäten durch Major-Versionssprünge widerspiegeln. Die Regeln der semantischen Versionierung lauten:

  • MAJOR: Breaking Change der öffentlichen C-API in ./include
  • MINOR: Rückwärtskompatible Funktion, Backend-Updates, Modellunterstützung oder API-Erweiterung
  • PATCH: Fehlerbehebung ohne API-Änderung

Das Team betont, dass eine flexible, aber stabile API von größter Bedeutung ist, da immer mehr Entwickler von den Bibliotheksschnittstellen abhängen.

Vertrieb und Hardware-Unterstützung

Pre-Release-Artefakte sind für Linux, macOS, Windows, Android und iOS verfügbar. Vertriebskanäle umfassen Docker für Linux, Debian für Linux, Homebrew für macOS und Linux, conda-forge für Windows, macOS und Linux, MacPorts für macOS, Winget für Windows und XCFramework für iOS und macOS.

Das Projekt erhält Hardware-Unterstützung von NVIDIA, AMD, Qualcomm, Arm, IBM und Intel und nutzt HF Buckets und HF Jobs, um die CI-Infrastruktur zu skalieren.

Warum es wichtig ist

Die v1.0.0-Veröffentlichung etabliert einen formalen Versionierungsvertrag für Downstream-Anwendungen, die von llama.cpp und ggml abhängen, da lokale KI und Datenschutz im Alltag zunehmend an Bedeutung gewinnen.


Quellen (auf Englisch)

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

llama.cpp-Team bei Hugging Face veröffentlicht llama.cpp v1.0.0 und ggml v1.0.0 | Hermes Vector