Il ragionamento nativo di IBM Granite 4.2 tra architetture dense e parametri dichiarati

Il 25 agosto 2026 IBM Research ha annunciato la nuova serie di modelli Granite 4.2, fornendo i pesi con licenza Apache 2.0 e indicando nella documentazione su Hugging Face la dicitura "fully open for commercial and research use". In un panorama prevalentemente orientato verso sistemi Mixture-of-Experts di grandi dimensioni, il progetto si focalizza su strutture dense distribuite nelle taglie da 3, 8 e 30 miliardi di parametri. Per la versione da 30B, l'architettura decoder-only adotta il meccanismo Grouped Query Attention con 32 teste di attenzione e 8 teste KV, posizionamento RoPE e attivazioni SwiGLU, supportando un contesto nativo di 128K token che il blog tecnico descrive come estendibile a 512K grazie a una quinta fase di pre-addestramento. L'addestramento da zero è avvenuto, secondo IBM, su circa 15.000 miliardi di token in cinque fasi.

La novità principale riguarda la capacità di generare catene di ragionamento prima di fornire la risposta, affiancata da un interruttore thinking / non-thinking e da una modalità intermedia "low-effort", che assegna un budget di ragionamento ridotto alle domande semplici. L'addestramento post-iniziale ha integrato l'algoritmo Group Relative Policy Optimization (GRPO) e l'allineamento RLHF, associando una fase di apprendimento per rinforzo specifica per flussi agentici — focalizzata su ingegneria del software e utilizzo del terminale — esclusivamente alle taglie da 8B e 30B. Contestualmente è stato rilasciato il modello vocale Granite Speech 5.0 Turbo CTC da 470 milioni di parametri, per il quale IBM dichiara un RTFx di circa 12.600 contro i circa 6.000 dei precedenti capofila della Open ASR Leaderboard. L'addestramento, secondo IBM, è girato su un cluster NVIDIA GB200 NVL72 fornito da CoreWeave.

Le prestazioni dichiarate da IBM attribuiscono al modello da 30B valori pari a 57,00 su SWE-Bench Verified, 89,17 su AIME25 e HMMT Feb25, e 66,41 su GPQA. Trattandosi di misurazioni interne pubblicate nei documenti aziendali, l'assenza attuale di audit e verifiche indipendenti non consente di confermare in modo terzo l'effettiva riproducibilità di questi punteggi. La documentazione ufficiale mostra inoltre una sovrapposizione esatta non chiarita nei risultati di AIME25 e HMMT Feb25, mentre il confronto con i modelli concorrenti è affidato a un grafico privo dei numeri corrispondenti, e quindi non verificabile sulla fonte primaria.

Rilasciare modelli densi con licenza permissiva mentre l'industria insegue la scala dei Mixture-of-Experts indica la volontà di intercettare chi deve fare i conti con limiti di hardware reali. La differenza tra l'efficienza teorica dichiarata e il lavoro effettivo negli ambienti aziendali si misurerà sulle prime integrazioni sul campo.

— Olya