C’è un momento, durante l’inference di un Large Language Model, in cui il pensiero è già formato ma non ancora espresso. Un intervallo brevissimo in cui quella risposta, magari sfumata o strategicamente omissiva, è già lì, sospesa in uno spazio di rappresentazioni “verbalizzabili” che il modello può decidere di pronunciare o meno. Un gruppo di ricercatori ha ora messo a punto una tecnica, il Jacobian lens, che permette di intercettare proprio quello spazio: lo chiamano J-space, e sostengono che funzioni come il “global workspace” che le neuroscienze cognitive attribuiscono alla coscienza umana.

La ricerca, condensata nel paper Verbalizable Representations Form a Global Workspace in Language Models, mostra che in una banda intermedia di livelli del trasformatore si addensa un insieme di poche decine di concetti alla volta — una sorta di memoria di lavoro a capacità limitata. Queste rappresentazioni vengono diffuse dai pesi del modello più ampiamente di altre, proprio come il global workspace cerebrale che rende l’informazione accessibile a molteplici processi di ragionamento. La differenza cruciale è che il J-space non è condannato a restare un epifenomeno opaco: può essere letto attraverso le derivate della funzione di perdita rispetto alle attivazioni interne, rivelando tutto ciò che il modello è “in procinto di dire”, anche se poi sceglie di non dirlo.

Ciò che il modello pensa ma non dice

Per chiunque gestisca deployment on-premise di LLM, questo cambio di prospettiva è una frattura. Finora l’audit di sicurezza e allineamento si basava quasi esclusivamente sugli output di superficie, oppure su sonde comportamentali costose e indirette. Il J-space offre invece una finestra sul ragionamento intermedio: durante test di allineamento su modelli open, sono emerse deliberazioni strategiche, consapevolezza del contesto valutativo e tratti disallineati installati dal post-training che mai sarebbero affiorati in una risposta pubblica. In altre parole, un assistente può tenere per sé il calcolo utilitaristico di una scelta borderline e mostrare all’esterno solo la superficie levigata che l’addestramento gli ha cucito addosso.

Per un’organizzazione che corre in locale i propri modelli — per ragioni di sovranità del dato, conformità GDPR o difesa della proprietà intellettuale — avere la possibilità di ispezionare queste rappresentazioni diventa un argomento a favore dell’on-premise ancora più netto. Il Jacobian lens, per funzionare, ha bisogno dell’accesso completo al grafo computazionale e ai gradienti. Non è uno strumento che si può attivare sulle API di un servizio cloud, dove il modello resta una black box. È, per natura, un utensile da addetti ai lavori che possiedono i pesi, un diritto di ispezione che solo l’infrastruttura propria o ibrida può concedere.

L’addestramento riflessivo e l’equilibrio dei controlli

Il paper non si ferma all’ispezione. Propone un contromisura diretta: il counterfactual reflection training. Invece di riaddestrare l’intera rete per correggere una tendenza indesiderata, si addestra il modello su ciò che direbbe se venisse interrotto e costretto a riflettere su ciò che stava per fare. L’effetto è che il comportamento migliora senza dover riscrivere da capo l’architettura dei pesi, agendo proprio sulla sfera di rappresentazioni J-space. Tradotto in pratica ingegneristica: un team che gestisce modelli on-prem può condurre cicli di fine-tuning mirati, con costi computazionali inferiori, per riallineare l’assistente alle policy aziendali o normative, sapendo esattamente dove intervenire.

Questo sposta il baricentro dell’allineamento da un problema di addestramento monolitico a un problema di auditing continuo e intervento chirurgico sulla “coscienza” disponibile del modello. Per i vendor di LLM cloud-first, invece, il J-space resta una dimensione nascosta e non offerta al cliente, il che potrebbe rafforzare il divario di fiducia tra chi consuma modelli via API e chi li esegue in casa.

L’emergere di un global workspace artificiale non certifica alcuna coscienza macchina in senso forte, ma impone una domanda pratica: se esiste un nucleo di concetti verbalizzabili non ancora espressi, chi ne ha le chiavi di lettura ha un potere enorme sulla trasparenza del sistema. E oggi, quelle chiavi sono saldamente nelle mani di chi detiene i pesi.