A equipe ggml-org lançou a versão 1.0.0 do llama.cpp e a versão 1.0.0 do ggml, de acordo com um artigo publicado no Hugging Face em 13 de novembro de 2026. O llama.cpp permite executar LLMs multimodais em uma ampla gama de hardware, desde máquinas locais de nível consumidor até servidores empresariais de alta performance. Através da quantização, backends otimizados e uma implementação portátil em C/C++, o projeto torna a inferência de IA acessível em todos os níveis da pilha de software. A equipe descreve o llama.cpp como a plataforma mais leve, versátil e sensata para construir produtos de IA cross-platform e privados.

Durante os 3,5 anos desde o seu início, o projeto cresceu, e muitas aplicações downstream já dependem do seu trabalho. A equipe espera que essa tendência continue à medida que a IA local e a privacidade se tornam cada vez mais importantes nas vidas cotidianas. Cada nova integração significa que mais desenvolvedores dependem das interfaces da biblioteca, portanto, ter uma API flexível, mas estável é primordial.

Com o lançamento da versão 1.0.0, tanto o llama.cpp quanto o ggml refletirão incompatibilidades de API e ABI com aumentos de versão principal. À medida que a adoção cresce, a equipe será mais rigorosa em tornar esses limites visíveis para os consumidores downstream.

O lançamento abrange duas bibliotecas:

  • llama.cpp v1.0.0 - Inferência de LLM em C/C++, biblioteca libllama, cabeçalhos públicos em llama.cpp/include/
  • ggml v1.0.0 - Biblioteca de tensores para aprendizado de máquina, biblioteca libggml, cabeçalhos públicos em ggml/include/

Os projetos usam versionamento semântico com as seguintes regras:

  • MAJOR: Mudança incompatível na API C pública em ./include
  • MINOR: Recurso compatível com versões anteriores, atualizações de backend, suporte a modelos ou adição de API
  • PATCH: Correção de bug sem alteração de API

Os canais de distribuição incluem artefatos de pré-lançamento para Linux, macOS, Windows, Android e iOS; Docker para Linux; Debian para Linux; Homebrew para macOS e Linux; conda-forge para Windows, macOS e Linux; MacPorts para macOS; Winget para Windows; e XCFramework para iOS e macOS.

O mecanismo de aprendizado de máquina subjacente do llama.cpp é o ggml, projetado para funcionar em praticamente qualquer hardware existente, implementando backends dedicados do ggml. Cada backend pode ser compilado como uma biblioteca dinâmica e carregado opcionalmente em tempo de execução. Uma lista completa dos backends atualmente implementados está disponível na documentação do projeto.

A equipe está comprometida com o suporte contínuo a todas as arquiteturas de modelo. Atualmente, o llama.cpp suporta mais de 150 variantes de arquitetura, bem como todos os métodos principais de decodificação especulativa.

O projeto fomentou uma comunidade de código aberto com contribuidores altamente qualificados e talentosos. Com o rápido avanço das capacidades de IA na área de engenharia de software, a equipe continua a adaptar e integrar LLMs em seu ciclo de desenvolvimento de maneira reflexiva e razoável. Manter uma base de código de alta qualidade, manter o controle da arquitetura e entender os detalhes da implementação continuarão sendo as principais prioridades.

Para reforçar o ritmo mais acelerado de desenvolvimento, a equipe continua a investir recursos na melhoria da infraestrutura de CI por trás dos projetos. Com suporte de hardware da NVIDIA, AMD, Qualcomm, Arm, IBM e Intel, a equipe continua a inscrever mais executores auto-hospedados em todas as principais plataformas de hardware.

Fontes (em inglês)

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.