La memoria esterna degli agenti a lungo orizzonte è spesso trattata come un world model congelato: la si giudica in base al successo sul task o al costo in token. Un nuovo lavoro mostra che l'oggetto mancante è la forma dell'uso della memoria. Con contesto finito e retrieval ripetuti, la memoria tende a concentrarsi su un piccolo nucleo di stati, lasciando quelli rari in una coda pesante. È lì che gli errori di previsione si accumulano.

Gli autori hanno condotto un audit conservativo sulla coda. La concentrazione è riproducibile ma dipende dalla policy: un agente a cammino casuale produce artefatti di retrieval compatibili con una log-normale, mentre le policy semantiche basate su LLM producono tracce nucleo-coda compatibili con una legge di potenza troncata. In altre parole, la forma esatta della coda non è una proprietà fissa del modello, ma cambia con il modo in cui l'agente esplora e recupera.

Da qui nasce Core–Tail World Model (CTWM), un controller di memoria rank-based. L'idea è semplice: allocare il budget del prompt con un solo esponente τ, trattenere un riassunto della coda e dare priorità al nucleo. Su Synthetic Graph World, CTWM preserva la copertura completa di stati e transizioni, riduce i token del prompt del 5,9% e abbassa l'errore di previsione sulla metà inferiore della coda del 13,6% rispetto a una baseline a grafo. Su ALFWorld il risparmio di token è coerente; su LongMemEval la riduzione arriva al 24,48% con parità di accuratezza aggregata.

Questi numeri raccontano qualcosa di più di un semplice guadagno di efficienza. Mettono in discussione l'idea che la memoria esterna di un agente sia un magazzino neutro. Se il budget di contesto è scarso, ogni slot del prompt è una risorsa allocata. Trattare gli stati rari come una coda da riassumere, invece che da ignorare o da includere integralmente, è una scelta progettuale con effetti misurabili.

Per chi valuta deployment on-premise o self-hosted, il risultato ha un valore immediato. Prompt più leggeri riducono il carico computazionale per chiamata e, di conseguenza, il fabbisogno di memoria e tempo di calcolo. Non è solo una questione di TCO: la coda pesante diventa un segnale operativo. Se un controller riesce a mantenere la copertura degli stati rari con meno token, il costo marginale di un agente a lungo orizzonte cambia. AI-RADAR ha dedicato un'area /llm-onpremise ai trade-off tra contesto, memoria e latenza.

Il punto strutturale è che la gestione della memoria non è più un accessorio rispetto all'inference. Fino a ieri il problema sembrava risolvibile allargando la finestra di contesto o aggiungendo storage. Questo lavoro suggerisce che la forma della distribuzione dei retrieval è una variabile di controllo di primo livello: non serve solo a diagnosticare il comportamento, ma a governarlo.

I benchmark che misurano solo successo e costo aggregato perdono i failure mode rari. Un agente può sembrare solido nel complesso e fallire proprio negli stati meno frequenti, dove l'errore di previsione è più alto. Chi adotta strumenti di audit sulla coda ottiene un segnale per allocare meglio il budget; chi continua a misurare solo la media rischia di ottimizzare un sistema che degrada in modo asimmetrico.