La notizia non sta solo nei benchmark, ma nella conferma di una traiettoria architetturale precisa. inclusionAI ha pubblicato Ling-3.1-flash-1019, versione aggiornata di Ling-3.1-flash, mantenendo 560 miliardi di parametri totali e 25 miliardi di parametri attivi per token, ma portando la finestra di contesto a un milione di token. I miglioramenti si concentrano sui compiti agentici: AA-Briefcase passa da circa 1400 a 1524 punti Elo, AutomationBench-AA dal 62% al 68%. Crescono anche i benchmark scientifici: CritPt dal 18% al 26% e SciCode dal 54% al 57%. L'Artificial Analysis Intelligence Index v4.3.2 sale da 41 a 44.

La memoria prima dei calcoli

Per chi valuta deployment self-hosted, questi numeri nascondono una tensione. Da un lato, 25 miliardi di parametri attivi per token è un valore compatibile con modelli che girano su singole GPU di fascia alta; il costo computazionale per singolo token resta relativamente contenuto. Dall'altro, il checkpoint completo da 560 miliardi di parametri non può essere ignorato: ogni esperto, anche se non attivo, va caricato in VRAM o recuperato rapidamente. Questo sposta il collo di bottiglia dai calcoli alla capacità e alla banda di memoria, esattamente il contrario di ciò che accade con modelli densi più piccoli.

Il contesto da un milione di token amplifica il problema. Una finestra così ampia può trasformare la cache chiave-valore in un oggetto di memoria critico, soprattutto se si vogliono mantenere latenze basse senza ricorrere a offloading su storage lento. Le pipeline di serving devono quindi gestire due piani: il caricamento degli esperti e lo stato della conversazione. Non è un caso che il checkpoint base, Ling-3.1-flash-base, venga rilasciato per la ricerca: la community può sperimentare strategie di quantization e scheduling degli esperti senza ripartire da zero.

Il salto su AA-Briefcase e AutomationBench-AA indica che l'ottimizzazione post-training non ha solo migliorato la risposta a domande complesse, ma ha reso il modello più affidabile in flussi di lavoro multi-step. Questo è il punto che interessa chi fa deployment locale: non basta servire token velocemente, serve uno stack capace di mantenere coerenza su compiti lunghi senza degradare la latenza.

Il rilascio del checkpoint base segnala che inclusionAI non punta solo a battere benchmark: vuole spostare la discussione sulle architetture sparse come terreno di ricerca aperto. Per chi costruisce stack locali, la domanda non è se adottare questo modello, ma se le proprie infrastrutture di memoria e serving sono pronte per una generazione in cui il parametro totale conta meno del numero di parametri attivi.