IBM publie les modèles d'IA Granite Switch 4.1 pour le chat, la prise de décision et la parole

IBM a annoncé Granite Switch 4.1 le 15 octobre 2026, publiant deux modèles de langage modulaires de 8 milliards et 30 milliards de paramètres. Les modèles composent un modèle de base, un adaptateur de décision à usage général, un adaptateur de sécurité et un encodeur de parole intégré en un seul point de terminaison. Selon les fiches des modèles, les points de contrôle sont sous licence Apache 2.0 et prennent en charge les backends Hugging Face Transformers et vLLM.

Architecture modulaire et adaptateurs

La publication comprend Granite-Switch-4.1-8B et Granite-Switch-4.1-30B, construits sur des modèles de base avec une fenêtre de contexte de 128K. Chaque point de contrôle compose trois composants avec le modèle de base figé :

• Adaptateur de décision : Un Activated LoRA (aLoRA) pour la prise de décision à usage général qui produit une distribution de probabilité softmax sur des options étiquetées en un seul passage avant.
• Guardian-Core : Un aLoRA de la bibliothèque Guardian d'IBM qui détecte les risques de sécurité, y compris les dommages, le jailbreaking, les vulgarités, la violence, le contenu sexuel, les biais sociaux et les comportements non éthiques.
• Encodeur de parole : Granite Speech 5.0 TurboCTC, un encodeur conformer CTC non autoregressif de 470 millions de paramètres, en anglais, intégré pour la transcription.

IBM indique que les trois technologies, ainsi que le modèle de base, nécessitent approximativement la même mémoire GPU que le modèle de base seul. L'architecture utilise un commutateur d'experts à grain grossier, où un seul adaptateur reste actif sur toutes les couches du décodeur pour une séquence contiguë de tokens. Les appelants activent un adaptateur en passant son nom au modèle de chat, ce qui insère automatiquement le jeton de contrôle correspondant.

Performances et benchmarks

IBM rapporte que l'adaptateur guardian-core surpasse en moyenne Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions et Clef-Flash sur les tâches de décision liées à la sécurité. Dans la comparaison publiée par IBM, le meilleur adaptateur Granite a terminé en tête sur OOD Safety avec 2,3 points d'avance, IFEval avec 17,0, BIO F1 avec 11,0 et RAGTruth avec 11,8, tout en terminant derrière sur LM-AggreFact avec 2,6, InfoBench-GPT4 avec 3,2 et InfoBench-Human avec 0,8.

Les fiches des modèles rapportent les scores de l'indice de décision pour l'adaptateur de décision, mesurés sur le sous-ensemble rapide public du benchmark de 1 068 lignes. L'adaptateur de 8 milliards de paramètres a obtenu un score global de 42,9, tandis que l'adaptateur de 30 milliards de paramètres a obtenu un score global de 50,1. IBM rapporte également qu'un modèle Granite Switch personnalisé de 3 milliards de paramètres jouant au jeu Doom a pris 60 à 100 décisions par seconde, comparé aux 10 décisions par seconde rapportées pour Jev.

Limitations et déploiement

Les modèles sont conçus pour l'auto-hébergement. OrcaRouter note qu'il n'y a pas de point de terminaison géré pour Granite Switch 4.1, le décrivant comme une « histoire d'auto-hébergement » nécessitant un GPU et un conteneur. Le référentiel liste les exigences suivantes : Python 3.9 ou version ultérieure, PyTorch 2.11.0 ou version ultérieure, Transformers 5.16 à 5.17.0, et optionnellement vLLM 0.26.0 jusqu'à mais sans inclure 0.28.0.

Les fiches des modèles documentent plusieurs limitations. La cascade de parole fonctionne uniquement en anglais et renvoie des transcriptions en minuscules, sans ponctuation, sans pilotage au moment du décodage. Étant donné que l'encodeur de reconnaissance automatique de la parole (ASR) n'est pas entraîné conjointement avec le modèle de langage ou les adaptateurs, une transcription erronée peut modifier silencieusement ce à quoi le modèle ou un adaptateur répond. De plus, vLLM limite les demandes de logprob des étiquettes d'options de décision à 128 jetons, donc les questions avec plus d'options doivent être divisées en demandes fractionnées.

Pourquoi cela compte

Granite Switch 4.1 représente un changement vers un déploiement d'IA modulaire, permettant aux développeurs de combiner les capacités de chat, de prise de décision, de filtrage de sécurité et de parole en texte dans un seul point de contrôle de modèle. En utilisant des adaptateurs Activated LoRA qui partagent le cache KV du modèle de base, IBM vise à réduire la surcharge mémoire et la latence associées à l'exécution de plusieurs modèles spécialisés. Cependant, la publication date de deux jours et ne dispose d'aucune évaluation indépendante par des tiers, et l'absence d'entraînement conjoint du chemin de parole avec le modèle de langage présente un risque potentiel pour les applications où les erreurs de transcription ont des conséquences significatives.

Sources (en anglais)

• unite.ai: IBM Releases Modular Granite Switch 4.1 Models in 8B and 30B Sizes – Unite.AI
• orcarouter.ai: Granite Switch 4.1 30B: Twelve Adapters Cut to Two
• thechenabtimes.com: IBM Granite Switch 4.1: Unified AI for Chat, Decisions, and Speech

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.