Il merge nasce da una provocazione quasi dadaista. Su Reddit si discuteva di Qwen3.8 e Qwen3.6, due modelli che condividono la stessa struttura e che, secondo l'autore, sono funzionalmente identici: l'unica differenza evidente sarebbe l'addestramento, con Qwen3.8 che introduce sette nuovi token. L'utente bigattichouse ha quindi deciso di provare a combinarli, spiegando di averlo fatto «non perché fosse difficile, ma perché era sciocco».

Il punto di partenza tecnico è un file GGUF con quantization Q6_K_XL: Qwen3.8-27B-UD-Q6_K_XL.gguf. Con questo artefatto, l'autore ha unito i pesi dei modelli Hugging Face Qwen3.8-27B e Qwen3.6-27B. Il risultato, chiamato QwenMix-3.7, supera uno smoke test, ma l'autore dichiara di non aver eseguito alcun test oltre a quello iniziale. Gli script e l'idea sono disponibili nella cartella replicate/ del repository del modello.

Al di là del gesto, l'esperimento tocca una dinamica strutturale del mondo self-hosted. La quantization GGUF è già uno standard di fatto per ridurre l'impronta di memoria dei LLM su hardware locale, perché consente di eseguire modelli con VRAM limitata. Qui il file Q6_K_XL non è solo un formato di distribuzione: diventa il veicolo di un intervento sui pesi. Se due varianti di un modello differiscono per un numero minimo di token, fonderle senza rifare il fine-tuning potrebbe consolidare l'offerta locale e ridurre il numero di modelli da mantenere in produzione. Ma c'è un rovescio: uno smoke test non basta a dimostrare che le capacità dei due modelli originari siano preservate. La validazione resta un costo nascosto.

La storia segnala anche un cambio di incentivi. In un ecosistema on-premise, la possibilità di combinare checkpoint comunitari abbassa la dipendenza da vendor che rilasciano modelli monolitici. Chi ne beneficia sono i praticanti locali e i team che cercano di limitare il TCO, perché possono sperimentare derivati senza investire in addestramento. Chi ci perde, invece, sono i processi di governance che richiedono tracciabilità e test strutturati: un merge non documentato diventa difficile da auditare, soprattutto in contesti regolati. Non è un caso che l'autore pubblichi il risultato con la trasparenza di chi sa che si tratta di un esperimento: «sorta works» è una formula volutamente prudente.

Resta un segnale per il deployment locale: la modularità dei LLM si sta spostando dai laboratori ai repository pubblici. Il fatto che un singolo utente possa combinare due modelli da 27B usando un file con quantization indica che la barriera all'ingresso per la manipolazione dei pesi è crollata. Questo non rende i modelli più affidabili, ma rende più visibile il confine tra prototipo e prodotto. Per chi valuta deployment on-premise, la lezione non è quella di adottare QwenMix-3.7, ma di riconoscere che la sperimentazione comunitaria può anticipare funzionalità che i vendor formalizzeranno solo più tardi.