Non è un aggiornamento che si nota dai numeri di versione, ma cambia il comportamento del modello in modo selettivo. L'ultima release del Qwen3.8-Flash-Next-GSQ-RCO-Coder in formato GGUF, pubblicata da ISTA-DASLab, non modifica i pesi mantenuti rispetto al modello base IQ3_S: cambia invece quali esperti vengono mantenuti. Circa il 25% della selezione degli esperti differisce dalla release precedente. In un modello MoE quantizzato, questo dettaglio è più rilevante della sola dimensione del file.

I modelli mixture-of-experts non attivano tutte le reti esperte per ogni token. Durante l'inference, un meccanismo di instradamento seleziona di volta in volta un sottoinsieme di esperti. Quando si applica una quantization come IQ3_S, il costo di mantenere molti esperti cresce: non si tratta solo di ridurre la precisione numerica, ma di decidere quali componenti del modello hanno diritto di restare. In questo aggiornamento, il team ha tenuto fermi i pesi degli esperti mantenuti e ha cambiato la composizione del sottoinsieme. È un intervento chirurgico, non una ri-compressione.

La nota sulla lingua è chiara: il modello resta English-only. Con un budget di esperti limitato, la priorità è stata data alla conservazione delle capacità in inglese, e quelle multilingue non sono state preservate. Non è un effetto collaterale, ma una decisione di allocazione. In un modello pensato per il codice, dove la maggior parte del corpus e delle conversazioni tecniche è in inglese, questa scelta ha una logica operativa: serve capacità mirata su un dominio, non copertura linguistica.

Per chi fa deployment self-hosted su hardware con VRAM limitata, la selezione degli esperti diventa un parametro di progettazione. Non basta più chiedersi quale quantization usare; bisogna chiedersi anche quale profilo di capacità il modello deve mantenere. Due release possono avere lo stesso formato, la stessa quantization e pesi identici per gli esperti comuni, ma differire nel 25% degli esperti conservati. Questo crea varianti che non sono solo più piccole, ma specializzate in modo diverso.

Chi lavora su assistenza al codice in inglese o su pipeline di sviluppo dove la lingua tecnica è uniforme può trovare in questa release un profilo più concentrato. Chi invece aveva integrato il modello in flussi multilingue dovrà restare sulla versione precedente o cercare un altro punto di equilibrio. Non c'è un vincitore assoluto: la selezione degli esperti è un compromesso esplicito, e l'aggiornamento rende visibile quanto un modello quantizzato sia in realtà una famiglia di possibili configurazioni.

La trasparenza dell'operazione è forse l'aspetto più sottovalutato. Non sono stati modificati i pesi mantenuti rispetto alla base IQ3_S; l'unica variabile in gioco è la selezione. Per chi valuta deployment on-premise, questo consente di confrontare due release e isolare l'effetto della scelta degli esperti, senza rumore introdotto da nuove quantizzazioni o da fine-tuning aggiuntivi. AI-RADAR propone framework analitici su /llm-onpremise per isolare questo tipo di variabili, senza imporre raccomandazioni.