L'équipe ggml-org a publié llama.cpp version 1.0.0 et ggml version 1.0.0, selon un article publié sur Hugging Face le 13 novembre 2026. llama.cpp permet d'exécuter des LLM multimodaux sur une large gamme de matériel, des machines locales grand public aux serveurs d'entreprise haut de gamme. Grâce à la quantification, aux backends optimisés et à une implémentation portable en C/C++, le projet rend l'inférence IA accessible à tous les niveaux de la pile logicielle. L'équipe décrit llama.cpp comme la plateforme la plus légère, polyvalente et sensée pour construire des produits IA multiplateformes et privés.

Au cours des 3,5 années suivant sa création, le projet a grandi, et de nombreuses applications en aval dépendent déjà de son travail. L'équipe s'attend à ce que cette tendance se poursuive à mesure que l'IA locale et la confidentialité deviennent de plus en plus importantes dans la vie quotidienne. Chaque nouvelle intégration signifie que davantage de développeurs dépendent des interfaces de la bibliothèque, il est donc primordial d'avoir une API flexible mais stable.

Avec la version 1.0.0, llama.cpp et ggml refléteront les incompatibilités d'API et d'ABI par des incréments de version majeure. À mesure que l'adoption grandira, l'équipe sera plus stricte pour rendre ces limites visibles aux consommateurs en aval.

La publication couvre deux bibliothèques :

  • llama.cpp v1.0.0 - Inférence LLM en C/C++, bibliothèque libllama, en-têtes publics dans llama.cpp/include/
  • ggml v1.0.0 - Bibliothèque de tenseurs pour l'apprentissage automatique, bibliothèque libggml, en-têtes publics dans ggml/include/

Les projets utilisent le versionnement sémantique avec les règles suivantes :

  • MAJEUR : Changement cassant de l'API C publique dans ./include
  • MINEUR : Fonctionnalité rétrocompatible, mises à jour des backends, prise en charge de modèles ou ajout d'API
  • PATCH : Correction de bug sans changement d'API

Les canaux de distribution incluent des artefacts de pré-version pour Linux, macOS, Windows, Android et iOS ; Docker pour Linux ; Debian pour Linux ; Homebrew pour macOS et Linux ; conda-forge pour Windows, macOS et Linux ; MacPorts pour macOS ; Winget pour Windows ; et XCFramework pour iOS et macOS.

Le moteur d'apprentissage automatique sous-jacent de llama.cpp est ggml, conçu pour fonctionner sur pratiquement tout matériel existant en implémentant des backends ggml dédiés. Chaque backend peut être compilé en tant que bibliothèque dynamique et chargé optionnellement au moment de l'exécution. Une liste complète des backends actuellement implémentés est disponible dans la documentation du projet.

L'équipe s'engage à soutenir continuellement toutes les architectures de modèles. Actuellement, llama.cpp prend en charge plus de 150 variantes d'architecture ainsi que toutes les méthodes principales de décodage spéculatif.

Le projet a favorisé une communauté open source avec des contributeurs hautement qualifiés et talentueux. Avec l'avancement rapide des capacités de l'IA dans le domaine du génie logiciel, l'équipe continue de s'adapter et d'intégrer les LLM dans son cycle de développement de manière réfléchie et raisonnable. Maintenir une base de code de haute qualité, garder le contrôle de l'architecture et comprendre les détails de l'implémentation resteront des priorités absolues.

Pour renforcer le rythme plus rapide de développement, l'équipe continue d'investir des ressources dans l'amélioration de l'infrastructure CI derrière les projets. Avec le soutien matériel de NVIDIA, AMD, Qualcomm, Arm, IBM et Intel, l'équipe continue d'inscrire davantage d'exécuteurs auto-hébergés sur toutes les principales plateformes matérielles.

Sources (en anglais)

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.