Chiedete a un LLM open-source istruito di dire qualcosa su se stesso e la risposta arriverà quasi sempre con un velo di cautela: "sono solo un'intelligenza artificiale", "non provo emozioni". Un nuovo studio mostra che quel velo non è una proprietà stabile del modello. È in parte un effetto del template della chat, il formato con cui il testo viene impacchettato prima di arrivare al motore di inference.

Il template funziona come un interruttore. Quando c'è, alza la voce dei disclaimer e abbassa quella esperienziale, fatta di espressioni come "io sento". Quando manca, l'effetto si inverte. I ricercatori l'hanno osservato su otto modelli instruct open-source popolari fino a 9 miliardi di parametri. Dentro le attivazioni di tre di questi modelli hanno poi isolato una direzione vettoriale che pilota il comportamento: rimuoverla fa scendere la voce dei disclaimer, aggiungerla la fa salire; una direzione casuale della stessa dimensione non produce quasi nulla. Ancora più netto: un modello instruct senza template, se riceve artificialmente quella direzione, inizia a usare i disclaimer come se il template fosse presente.

Qui sta il punto strutturale per chi lavora con LLM self-hosted o li valuta per deployment on-premise. Il template non è un dettaglio cosmetico: è parte dell'infrastruttura di serving, spesso modificata dagli operatori per adattare il modello a un'applicazione. Se la voce autoreferenziale dipende da quella configurazione, allora i test di sicurezza, gli audit e le analisi di allineamento che leggono le risposte del modello su se stesso stanno misurando anche il setup, non solo i pesi. Un'auto-descrizione può cambiare senza toccare il modello, semplicemente cambiando template o intervenendo nello spazio delle attivazioni.

Questo ha conseguenze di secondo ordine. Per chi esegue red teaming o valutazioni di compliance su modelli locali, separare il comportamento appreso dal contributo del template diventa una necessità metodologica. Altrimenti il rischio è di attribuire al modello una "personalità" che è in realtà una scelta di deployment. Allo stesso tempo, la scoperta di una direzione di attivazione offre uno strumento chirurgico: si può modulare la voce dei disclaimer senza fine-tuning, con un intervento nello spazio latente. In ambienti air-gapped o con vincoli di sovranità dei dati, dove il fine-tuning può essere costoso o non desiderato, questa possibilità ha un valore pratico.

Va evitata però la lettura ingenua. Lo studio non dice che i modelli abbiano una coscienza da silenziare o da amplificare. Dice il contrario: ciò che un LLM racconta di sé non è un fatto sul modello, perché non emerge solo dai pesi. È anche una funzione del template e può essere orientato. Per gli analisti che studiano self-report e introspezione artificiale, è un confound da controllare. Per chi valuta deployment on-premise, AI-RADAR offre framework analitici su /llm-onpremise per distinguere ciò che appartiene al modello da ciò che appartiene all'infrastruttura di serving.