IBM ha rilasciato Granite 4.2, nuova generazione dei suoi large language model aperti, disponibile nelle taglie da 3, 8 e 30 miliardi di parametri. La principale novità rispetto a Granite 4.1 è il reasoning: i nuovi modelli possono dedicare una fase esplicita di elaborazione al problema prima di produrre la risposta, utilizzare strumenti esterni e affrontare sequenze operative composte da più passaggi.
Granite rafforza la propria specializzazione negli agenti AI aziendali, mantenendo dimensioni molto inferiori rispetto ai maggiori modelli frontier e la licenza Apache 2.0, che consente uso, modifica e distribuzione anche in applicazioni commerciali.
Il reasoning può essere regolato richiesta per richiesta. Granite 4.2 dispone di una modalità thinking, che dedica più calcolo all’elaborazione del problema, di una modalità non-thinking, che genera direttamente la risposta, e di una modalità low-effort, con una quantità più contenuta di elaborazione. La scelta permette di bilanciare qualità della risposta, latenza e consumo di token in funzione del compito.
Da Granite 4.0 a 4.2 cambiano architettura e ruolo del reasoning
Con Granite 4.0, presentato nell’ottobre 2025, IBM aveva adottato un’architettura ibrida Mamba-2/Transformer. I Transformer utilizzano il meccanismo di attention per mettere in relazione le diverse parti di una sequenza, con un costo computazionale e di memoria che cresce sensibilmente con l’allungarsi del contesto. Mamba-2 appartiene invece alla famiglia degli state space model e può elaborare sequenze lunghe con un impiego di risorse più contenuto.
Granite 4.0 combinava i due approcci con un rapporto di nove livelli Mamba-2 per ogni blocco Transformer, affidando prevalentemente a Mamba l’elaborazione efficiente delle sequenze e mantenendo l’attention dei Transformer per modellare le relazioni tra i token.
Alcune versioni utilizzavano inoltre una struttura Mixture-of-Experts (MoE), nella quale ogni token attraversa soltanto una parte dei parametri complessivi. Granite 4.0-H-Small, per esempio, disponeva di 32 miliardi di parametri totali ma ne attivava 9 miliardi; H-Tiny ne aveva 7 miliardi complessivi e uno attivo. Il modello può così aumentare la propria capacità complessiva senza attivare tutta la rete neurale per ogni token.
Con Granite 4.1, arrivato nell’aprile 2026, IBM è tornata a un’architettura Transformer dense per i principali language model: per elaborare ogni token viene utilizzato l’intero insieme dei parametri, anziché attivarne soltanto una parte come nei modelli MoE. La struttura semplifica il fine-tuning e il supporto nei framework di inferenza.
Granite 4.1 comprendeva versioni da 3B, 8B e 30B progettate come modelli non-thinking: ricevuta una richiesta, generavano direttamente l’output senza una fase separata di reasoning. Una soluzione adatta a instruction following, estrazione e trasformazione di informazioni, classificazione e numerosi task di tool calling nei quali un’elaborazione più lunga comporta soprattutto maggiore latenza e consumo di token.
Nei test IBM il modello 8B riusciva a eguagliare o superare Granite 4.0 32B MoE in diversi task di instruction following e tool calling, pur utilizzando un’architettura più semplice e un numero inferiore di parametri.
Granite 4.2 mantiene le stesse tre dimensioni ma rende il reasoning una capacità nativa e configurabile. Granite 4.1 rimane quindi adatto ai workload nei quali conta soprattutto una risposta rapida e prevedibile, mentre 4.2 aggiunge capacità utili per attività che richiedono pianificazione, verifica dei risultati intermedi, coding e uso concatenato di strumenti.
Granite 4.2 viene addestrato per lavorare come agente
I tre modelli Granite 4.2 sono addestrati da zero su circa 15 mila miliardi di token, attraverso cinque fasi che spostano progressivamente il mix verso dati di maggiore qualità e introducono anche il training su contesti lunghi.
Al pre-training segue una pipeline di supervised fine-tuning e reinforcement learning articolata in più fasi, con dati dedicati a matematica, scienze, coding, instruction following, utilizzo di strumenti e output strutturati. I modelli da 8B e 30B ricevono inoltre una fase specifica di agentic reinforcement learning.
Durante questa fase il modello opera in ambienti eseguibili nei quali deve utilizzare strumenti, modificare ed eseguire codice, lavorare nel terminale ed effettuare ricerche, ricevendo una valutazione basata sul risultato delle proprie azioni. Il training riproduce quindi attività più vicine a quelle svolte da un coding agent rispetto alle tradizionali coppie di istruzioni e risposte utilizzate nel fine-tuning.
Il supervised fine-tuning utilizza 7,2 milioni di esempi, per circa 100 miliardi di token. Il 31,6% dei dati è costituito da attività agentiche e, all’interno di questa componente, il software engineering rappresenta il 69%.
I modelli sono stati inoltre addestrati su un trilione di token di codice sintetico generati attraverso CodeAlchemy. La versione da 30B riceve un’ulteriore fase di supervised fine-tuning orientata all’agentic coding, con maggiore peso per software engineering, coding e sequenze complete di azioni svolte dagli agenti.
Tool calling e reasoning nello stesso ciclo operativo
Granite 4.2 supporta nativamente il tool calling: il modello può valutare quale funzione utilizzare, richiamarla e impiegare il risultato nei passaggi successivi. Il formato delle funzioni è compatibile con lo schema utilizzato dalle API OpenAI, facilitando l’integrazione con applicazioni e framework che già lo supportano.
L’addestramento utilizza agent harness differenti, tra cui OpenHands, OpenCode, SWE-agent, Gemini CLI, Codex e Goose, riducendo la dipendenza del comportamento agentico da uno specifico ambiente operativo.
Granite 4.2 30B può essere utilizzato con OpenCode, Pi e OpenHands e servito attraverso vLLM e SGLang. Il modello può quindi operare come motore di un agente software capace di scegliere strumenti, eseguire comandi e completare attività composte da più operazioni.
Una finestra di contesto da 128K token, fino a 512K sul 30B
Tutti e tre i Granite 4.2 dispongono di una finestra di contesto nativa di 128K token, entro la quale possono considerare contemporaneamente istruzioni, cronologia della conversazione, documenti, codice e risultati prodotti dagli strumenti.
Granite 4.2 30B dispone anche di un’estensione long-context fino a 512K token, utile quando l’agente deve lavorare su grandi quantità di codice o documentazione mantenendole nello stesso contesto.
Granite 4.2 utilizza un’architettura decoder-only Transformer dense: è generativo, produce un token dopo l’altro e coinvolge tutti i parametri nell’elaborazione di ciascun token. La scelta lo distingue dalle architetture Mixture-of-Experts, nelle quali viene attivata soltanto una parte del modello.
Granite è ormai una famiglia di modelli specializzati
Granite non identifica più soltanto i language model general-purpose di IBM. La famiglia Granite comprende anche Granite Vision, per l’analisi di documenti, tabelle e grafici; Granite Speech, per il riconoscimento e la traduzione del parlato; Granite Guardian, dedicato alla valutazione di rischi e output; e modelli di embedding destinati alla ricerca semantica e ai sistemi RAG.
Insieme a Granite 4.2 arrivano Granite Speech 5.0 Turbo CTC e 5.0 Turbo CTC NC, modelli da 470 milioni di parametri che non utilizzano un LLM come backbone e sono progettati per trascrizione streaming e workload ad alto throughput.
Le diverse linee Granite evolvono con architetture e numerazioni proprie e possono essere combinate nello stesso sistema aziendale, anziché concentrare linguaggio, visione, speech e sicurezza in un unico grande modello multimodale.
Granite 4.2 30B a confronto con Gemma e NVIDIA Nemotron
Per confrontare Granite 4.2 30B con altri modelli open-weight, IBM ha scelto NVIDIA Nemotron 3 Super 120B-A12B BF16 e Gemma 4 31B instruction-tuned di Google DeepMind.
Le dimensioni dichiarate non sono direttamente equivalenti. Granite 4.2 30B utilizza tutti i suoi 30 miliardi di parametri per elaborare ogni token, mentre NVIDIA Nemotron 3 Super è un Mixture-of-Experts ibrido Mamba-Transformer da 120 miliardi di parametri complessivi, dei quali 12 miliardi attivi per token. Gemma 4 31B appartiene invece alla stessa fascia dimensionale nominale di Granite.
Il grafico non individua un vincitore assoluto. Granite 4.2 30B emerge soprattutto nel reasoning matematico e in SWE-Bench Pro, dedicato alla risoluzione di problemi software, e rimane vicino a Nemotron in diverse altre prove. Gemma 4 31B prevale invece in una parte consistente dei benchmark dedicati a coding, instruction following, function calling e uso del terminale.
Proprio Terminal-Bench 2.1 evidenzia il margine più ampio per Granite rispetto ai due concorrenti, un elemento significativo perché l’uso autonomo del terminale rientra tra le capacità sulle quali IBM ha concentrato l’agentic reinforcement learning. SWE-Bench Pro restituisce invece un quadro più favorevole al 30B di IBM.
Il confronto evidenzia anche i limiti del semplice conteggio dei parametri come criterio per classificare un LLM. Granite utilizza una struttura dense relativamente compatta, mentre Nemotron contiene un numero molto maggiore di parametri complessivi ma ne attiva solo una parte a ogni token. Memoria necessaria per ospitare il modello, quantità di calcolo effettivamente utilizzata durante l’inferenza e comportamento nei workload agentici diventano quindi altrettanto rilevanti della dimensione nominale.
Gli LLM open-weight si differenziano sempre più per architettura e deployment
Granite 4.2 entra in un mercato nel quale, accanto ai Transformer dense, si stanno diffondendo architetture Mixture-of-Experts che separano il numero totale di parametri dalla quantità effettivamente utilizzata per elaborare ogni token.
gpt-oss di OpenAI segue questa impostazione. gpt-oss-20b dispone di 21 miliardi di parametri complessivi ma ne attiva 3,6 miliardi per token, mentre gpt-oss-120b sale a 117 miliardi complessivi e 5,1 miliardi attivi. Entrambi supportano reasoning e tool use, hanno una finestra di contesto da 128K token e sono distribuiti con licenza Apache 2.0.
Anche Qwen3 ha contribuito alla diffusione di modelli nei quali è possibile alternare thinking e non-thinking, mentre Mistral utilizza ampiamente architetture Mixture-of-Experts per aumentare la capacità totale mantenendo più contenuto il numero di parametri attivati durante l’inferenza.
Reasoning configurabile e tool calling stanno quindi diventando caratteristiche comuni. Le differenze riguardano sempre più memoria necessaria, costo dell’inferenza, qualità nel coding e nel function calling, comportamento all’interno degli agenti, facilità di fine-tuning, licenza e possibilità di eseguire il modello nel cloud, on-premises o su dispositivi locali.
IBM mantiene Granite su dimensioni adatte al deployment aziendale
Granite occupa una posizione diversa rispetto ai maggiori modelli proprietari disponibili esclusivamente o prevalentemente attraverso servizi cloud. IBM mantiene versioni relativamente compatte e separa i modelli specializzati per linguaggio, visione, speech e sicurezza.
Il 3B riduce i requisiti hardware per applicazioni edge e workload ad alto volume, l’8B occupa la fascia intermedia e il 30B concentra le maggiori capacità di reasoning e coding senza raggiungere la scala dei modelli da centinaia di miliardi di parametri.
Restano anche gli elementi introdotti nelle generazioni precedenti: licenza Apache 2.0, pesi scaricabili e firme crittografiche. Con Granite 4.0 la famiglia aveva inoltre ottenuto la certificazione ISO 42001, lo standard internazionale per i sistemi di gestione dell’intelligenza artificiale.
