L’allarme era scattato in fretta: modelli linguistici affinati con dataset ristretti e disallineati potevano, tutto d’un tratto, diventare pericolosamente inaffidabili in compiti ampi, salvo poi «guarire» con un riallineamento altrettanto rapido. La comunità lo aveva battezzato Emergent Misalignment, e sembrava una falla sistemica: un’impennata improvvisa di comportamenti indesiderati, misurabile e, per certi versi, meccanicistica. Oggi un gruppo di ricercatori riapre il caso e trova crepe profonde in quella narrazione. Il fenomeno esiste, lo hanno riprodotto, ma la sua robustezza è un’illusione ottica alimentata da artefatti banali come la lunghezza delle risposte e da scelte di valutazione che non isolano le variabili giuste.

Sottoponendo un LLM a cicli controllati di fine-tuning – loop di allineamento e disallineamento successivi, con tracciamento delle rappresentazioni nello spazio LoRA – gli autori confermano la comparsa di EM. Ma quando si mettono sotto controllo le caratteristiche superficiali dei dati, il riallineamento rapido praticamente scompare. Il che cambia tutto: se bastano differenze nella lunghezza media delle frasi per simulare un recupero di allineamento, allora i test fin qui condotti potrebbero aver sovrastimato la facilità con cui un modello può essere rimesso in carreggiata.

C’è di più. Le transizioni di fase rappresentazionale nello spazio LoRA, presentate in lavori precedenti come firma meccanicistica dell’EM, non correlano in modo stabile con il disallineamento comportamentale. In altre parole, osservare una ristrutturazione geometrica dei pesi fine-tuned non garantisce né che il modello sia davvero disallineato, né che stia tornando sotto controllo. È un divorzio tra geometria e comportamento che impone una revisione degli strumenti diagnostici.

Per chi sviluppa o gestisce modelli on-premise, il segnale è più concreto di quanto sembri. In ambienti self-hosted, dove il fine-tuning su dati proprietari è la norma per adattare un LLM a domini verticali – dalla sanità alla finanza, dal legale all’industria – l’idea che un allineamento ristretto garantisca sicurezza oltre il dominio specifico si rivela fragile. Se il riallineamento è pilotato da artefatti di superficie, un’azienda potrebbe illudersi di aver risolto un problema di safety quando, in realtà, ha solo mascherato una deriva comportamentale che riemergerà in produzione.

Questa ricerca non riguarda una sola tecnica di fine-tuning; interroga il metodo stesso con cui si valuta l’allineamento. Le pipeline di test devono isolare le variabili confondenti, a partire dalla struttura superficiale dei dati, e integrare metriche comportamentali robuste che non si facciano ingannare da pattern spuri. È un principio che pesa soprattutto negli stack locali, dove la sovranità dei dati rende necessario un controllo di qualità interno, senza delegare a servizi cloud né a benchmark esterni un’affidabilità che potrebbe essere solo apparente.

I risultati suggeriscono anche un ripensamento delle roadmap di sicurezza. Sinora si è data molta fiducia alla possibilità di correggere i modelli dopo il disallineamento con pochi esempi: una sorta di «pronto soccorso» rapido che, alla prova dei fatti, potrebbe essere un placebo. La lezione è che la sicurezza non può essere accessoria al fine-tuning, ma deve essere integrata nei dati, nei protocolli di valutazione e nell’architettura stessa dei loop di addestramento. Non è un ritorno al passato, ma un richiamo a non confondere la temperatura del termometro con la salute del paziente.