L’idea che la verità abbia una firma geometrica nei Large Language Models non è nuova, ma finora era rimasta intrappolata nei laboratori di interpretabilità. Un lavoro recente la trasforma in uno strumento concreto: un sistema di rilevamento della misinformazione che non ha bisogno di interrogare basi di conoscenza esterne, né di riaddestrare il modello. Basta osservare cosa accade nello spazio delle attivazioni quando il modello processa affermazioni vere e false.

Il gruppo che ha firmato il framework (disponibile su GitHub come LaFaCt) sfrutta una tecnica chiamata Contrastive Activation Addition, o CAA. Si presentano al modello coppie di enunciati contrastanti – uno veritiero, l’altro falso – e si calcola la differenza media tra i vettori di attivazione nell’ultimo strato. Quella differenza individua una «direzione della menzogna» nel residual stream. Durante l’inference, il vettore corrispondente all’ultimo token di una frase mai vista viene proiettato su quella direzione e passa a un semplice percettrone multistrato (MLP) che decide se l’affermazione è vera o falsa.

Uno schema di classificazione del genere ha un pregio immediato: l’intera pipeline vive dentro il modello. Non serve un retrieval augmentato, né una chiamata a un motore di ricerca o a un database di fact-checking. Per chi gestisce modelli in ambienti air-gapped o con vincoli stringenti di residenza dei dati, è una differenza sostanziale: il dato non esce mai dal perimetro, e non si dipende da servizi esterni.

I risultati: funziona su scala e architettura

I test hanno coinvolto undici modelli delle famiglie Gemma, Llama e Qwen, con dimensioni comprese tra 270 milioni e 12 miliardi di parametri, e tre benchmark standard: LIAR, FACTors e AVeriTeC. Su LIAR e FACTors la proiezione dell’ultimo token eguaglia o supera i risultati ottenuti con prompting zero-shot e few-shot, e i guadagni maggiori si registrano proprio sui modelli più piccoli. AVeriTeC, il cui schema di etichettatura è ancorato a evidenze documentali, si è rivelato più ostico – un segnale che il metodo cattura bene la verità «interna» del modello, meno quando il giudizio umano dipende da fonti.

Il dato tecnico più rilevante è che la direzione della falsità è recuperabile in modo coerente attraverso scale e architetture differenti. Non è una peculiarità di Llama o di un addestramento specifico: la separabilità lineare tra affermazioni vere e false sembra una proprietà strutturale dello spazio latente dei transformer preaddestrati.

Perché conta per chi esegue modelli in locale

Per chi valuta stack self‑hosted, questo lavoro sposta l’asticella del fact-checking da «servizio esterno» a «capacità del modello». In uno scenario on‑premise tipico – magari un’azienda che processa documenti sensibili con un LLM – aggiungere un modulo antimisinformazione basato su attivazioni costa zero in termini di nuove dipendenze infrastrutturali. Non servono API di verifica, né embedding esterni: il classificatore MLP gira accanto al modello, spesso direttamente sulla stessa macchina. Su modelli piccoli (qualche centinaio di milioni di parametri) l’inference è sufficientemente leggera da poter funzionare anche su hardware senza GPU dedicate, abbattendo ulteriormente il TCO.

Certo, la costruzione della direzione richiede un set di coppie contrastive di partenza: un investimento iniziale che va tarato sul dominio applicativo. Ma non è diverso dal preparare un dataset di addestramento per un classificatore tradizionale, e può essere fatto offline, una tantum. La manutenzione successiva si limita a eventuali aggiornamenti delle coppie se il modello di base cambia in modo significativo.

Sul piano strategico, la tecnica rafforza l’idea che l’interpretabilità possa diventare un motore di funzionalità, non soltanto una lente per ispezionare le «scatole nere». Se verità e falsità lasciano tracce geometriche riproducibili, allora possiamo costruire strumenti di controllo nativamente integrati nei modelli, senza dover delegare a pipeline esterne. Per organizzazioni che operano sotto GDPR o normative simili, dove il trattamento dei dati deve restare confinato, è un argomento in più per scegliere architetture locali invece di affidarsi a servizi cloud che offrono fact‑checking come componente di una piattaforma.

Il codice su GitHub mostra che l’implementazione è già concreta. La prossima domanda, per chi progetta sistemi reali, sarà quanto questo approccio regga su affermazioni più complesse e ambigue, dove la verità fattuale non è binaria. Ma la direzione è tracciata: il confine tra vero e falso si sta rivelando più geometrico di quanto pensassimo.