IBM Lança Modelos de IA Granite Switch 4.1 para Chat, Decisões e Fala

A IBM anunciou o Granite Switch 4.1 em 15 de outubro de 2026, lançando dois modelos de linguagem modulares com 8 bilhões e 30 bilhões de parâmetros. Os modelos compõem um modelo base, um adaptador de decisão de propósito geral, um adaptador de segurança e um codificador de fala para texto embutido em um único endpoint. De acordo com os cartões do modelo, os checkpoints possuem licença Apache 2.0 e suportam backends Hugging Face Transformers e vLLM.

Arquitetura Modular e Adaptadores

O lançamento compreende Granite-Switch-4.1-8B e Granite-Switch-4.1-30B, construídos sobre modelos base com uma janela de contexto de 128K. Cada checkpoint compõe três componentes com o modelo base congelado:

• Adaptador de Decisão: Um Activated LoRA (aLoRA) para tomada de decisão de propósito geral que produz uma distribuição de probabilidade softmax entre opções rotuladas em uma única passagem direta.
• Guardian-Core: Um aLoRA da biblioteca Guardian da IBM que detecta riscos de segurança, incluindo danos, jailbreaking, palavrões, violência, conteúdo sexual, viés social e comportamento antiético.
• Codificador de Fala: Granite Speech 5.0 TurboCTC, um codificador conformer CTC não autoregressivo de 470 milhões de parâmetros, em inglês, embutido para transcrição.

A IBM afirma que as três tecnologias, juntamente com o modelo base, requerem aproximadamente a mesma memória de GPU que o modelo base sozinho. A arquitetura usa comutação de especialistas de granulação grossa, onde um único adaptador permanece ativo em todas as camadas do decodificador por um intervalo contíguo de tokens. Os chamadores ativam um adaptador passando seu nome para o modelo de chat, que insere automaticamente o token de controle correspondente.

Desempenho e Benchmarks

A IBM relata que o adaptador guardian-core, em média, supera Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions e Clef-Flash em tarefas de decisão relacionadas à segurança. Na comparação publicada pela IBM, o melhor adaptador Granite ficou à frente em OOD Safety em 2,3 pontos, IFEval em 17,0, BIO F1 em 11,0 e RAGTruth em 11,8, enquanto ficou atrás em LM-AggreFact em 2,6, InfoBench-GPT4 em 3,2 e InfoBench-Human em 0,8.

Os cartões do modelo relatam pontuações do Índice de Decisão para o adaptador de decisão, medidas no subconjunto rápido público do benchmark de 1.068 linhas. O adaptador de 8B obteve pontuação geral de 42,9, enquanto o adaptador de 30B obteve pontuação geral de 50,1. A IBM também relata que um modelo personalizado de 3 bilhões de parâmetros do Granite Switch jogando o jogo Doom fez de 60 a 100 decisões por segundo, em comparação com 10 decisões por segundo relatadas para o Jev.

Limitações e Implantação

Os modelos são projetados para auto-hospedagem. O OrcaRouter observa que não há endpoint gerenciado para o Granite Switch 4.1, descrevendo-o como uma "história de auto-hospedagem" que requer uma GPU e um contêiner. O repositório lista requisitos, incluindo Python 3.9 ou posterior, PyTorch 2.11.0 ou posterior, Transformers 5.16 a 5.17.0 e, opcionalmente, vLLM 0.26.0 até, mas não incluindo, 0.28.0.

Os cartões do modelo documentam várias limitações. A cascata de fala funciona apenas em inglês e retorna transcrições em minúsculas, sem pontuação, sem direção no momento da decodificação. Como o codificador ASR não foi treinado em conjunto com o modelo de linguagem ou adaptadores, uma transcrição incorreta pode alterar silenciosamente o que o modelo ou um adaptador responde. Além disso, o vLLM limita as solicitações de logprob de rótulo de opção de decisão a 128 ids de token, portanto, perguntas com mais opções devem ser divididas em solicitações fragmentadas.

Por que importa

O Granite Switch 4.1 representa uma mudança em direção à implantação modular de IA, permitindo que desenvolvedores combinem capacidades de chat, tomada de decisão, triagem de segurança e fala para texto dentro de um único checkpoint de modelo. Ao usar adaptadores Activated LoRA que compartilham o cache KV do modelo base, a IBM visa reduzir a sobrecarga de memória e a latência associadas à execução de vários modelos especializados. No entanto, o lançamento tem apenas dois dias e não há avaliação independente de terceiros, e a falta de treinamento conjunto do caminho de fala com o modelo de linguagem apresenta um risco potencial para aplicativos onde erros de transcrição têm consequências significativas.

Fontes (em inglês)

• unite.ai: IBM Releases Modular Granite Switch 4.1 Models in 8B and 30B Sizes – Unite.AI
• orcarouter.ai: Granite Switch 4.1 30B: Twelve Adapters Cut to Two
• thechenabtimes.com: IBM Granite Switch 4.1: Unified AI for Chat, Decisions, and Speech

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.