Un modello linguistico capace di produrre un ragionamento impeccabile ma puntualmente inciampato in frasi fatte, aggettivi impilati e l’onnipresente «non è X, è Y»: chi lavora con i modelli della serie Gemma di Google sa bene a cosa ci riferiamo. Scotoma-2, progetto realizzato da un utente della comunità Hugging Face con il nickname AesSedai e distribuito nel formato GGUF, è un intervento mirato proprio a eliminare questi tic stilistici, mantenendo però intatta l’intelligenza del modello originale.

L’approccio tecnico è interessante perché combina strumenti diversi con un obiettivo chirurgico. L’autore ha prima usato una tecnica nota come “abliteration” – una sorta di soppressione selettiva di pattern indesiderati – per indebolire la cosiddetta “persona dell’assistente”, ritenuta la causa principale della ripetitività. Poi, con un metodo chiamato J-lense projection, ha preservato le capacità cognitive del modello mentre isolava i comportamenti da correggere. Su questa base, ha costruito quattro dataset di coppie “output rifiutato vs output accettato”, ciascuno mirato a un problema specifico della prosa di Gemma, e ha eseguito quattro round consecutivi di fine-tuning con Direct Preference Optimization (DPO). Il risultato è una versione depurata che, a parità di taglia (31 miliardi di parametri), suona più naturale, evita lo stile meccanico e non sacrifica la qualità delle risposte.

Questa operazione non è solo un esercizio di pulizia stilistica per appassionati. Porta con sé implicazioni molto concrete per chi ha scelto di gestire l’inference in self-hosting. In un contesto on-premise, avere la possibilità di scolpire il tono del modello – eliminando i manierismi imposti dal training originario – significa allinearlo al tono di voce dell’azienda o dell’applicazione senza dover ricorrere a costosi servizi cloud né accettare le stringenti policy di moderazione dei provider. Un’organizzazione che decide di portare il modello dentro i propri server, magari per motivi di sovranità dei dati o per tenere sotto controllo il TCO, può oggi applicare tecniche analoghe a quella di Scotoma-2 per ottenere un assistente che non solo risponde con esattezza, ma lo fa con una voce coerente e riconoscibile.

C’è un segnale più ampio. Il fatto che la community si stia attrezzando per correggere i tic dei modelli, con metodologie che vanno oltre il classico fine-tuning e sconfinano nella manipolazione delle rappresentazioni interne, indica che il controllo sullo stile espressivo è diventato una leva di differenziazione importante. Per chi valuta deployment on-premise, la capacità di modellare il comportamento superficiale senza rompere le fondamenta del ragionamento è un vantaggio competitivo difficile da ottenere con le sole API cloud. E mostra anche che l’ecosistema dei modelli aperti sta maturando verso una sofisticazione che tocca aspetti di usabilità reale, non solo performance astratte sui benchmark.