Non basta accumulare memoria: per apprendere davvero serve distillare conoscenza trasferibile. La lezione, banale per gli umani, è arrivata a Microsoft Research con EvoLib, un framework che promette di cambiare il modo in cui i Large Language Models sfruttano il passato. Invece di un archivio statico di ragionamenti e successi, EvoLib costruisce una libreria di competenze e insight in continua evoluzione, estratti dall'esperienza grezza e raffinati nel tempo, senza mai toccare i pesi del modello.

Il cuore del sistema batte su due meccanismi: il consolidamento e il weighting dinamico. Ogni nuova esperienza viene distillata in una knowledge unit — una strategia riutilizzabile o una lezione da un errore — e confrontata con quanto già presente in libreria. Se emerge una somiglianza, le unità vengono fuse in una forma più generale, che perde l'ancoraggio al singolo task per diventare applicabile ad ambiti nuovi. Nel frattempo, un meccanismo di ponderazione aggiorna continuamente l'importanza di ciascuna unità, non solo in base all'utilità immediata, ma valutando quanto contribuisce a generare conoscenza utile per compiti futuri. Il risultato è un ecosistema di competenze che si auto-organizza e evolve, dando priorità alle lezioni a più alto impatto sul lungo periodo.

I test parlano chiaro: su benchmark di ragionamento matematico, scrittura di codice con vincoli di efficienza e task decisionali a lungo orizzonte, EvoLib supera costantemente i principali sistemi di memoria basati sul retrieval e altri meccanismi astratti, consumando meno token. Ancora più significativo, il framework converte la potenza di calcolo in guadagni di performance in modo nettamente più efficiente rispetto alle tecniche che sprecano compute per ogni task in isolamento. E lo fa senza dipendere dall'ordine con cui i problemi si presentano: un segnale di robustezza cruciale per scenari reali dove le richieste arrivano in flussi arbitrari e mescolati.

Per chi gestisce infrastrutture on-premise e valuta il Total Cost of Ownership dell'AI, EvoLib ha un messaggio dirompente. Sposta l'asticella del valore dal training — spesso costoso, energivoro e dipendente da dati etichettati — all'inference continua. Un modello già deployato, on-premise o via API, può continuare a migliorare semplicemente facendo esperienza, senza bisogno di fine-tuning centralizzato o di trasferire dati sensibili all'esterno. Immaginiamo un assistente legale che opera su documenti riservati: con EvoLib, le strategie vincenti e gli errori corretti rimangono confinati nell'ambiente del cliente, protetti da policy di sovranità dei dati, e diventano patrimonio riutilizzabile per gli utenti successivi, senza che nulla esca dall'azienda. La conoscenza evolve in locale, il modello resta immutato, e i costi di ri-addestramento si azzerano.

Questa dinamica segnala una possibile riconfigurazione degli incentivi. I fornitori di modelli cloud che spingono su fine-tuning continui e servizi a valore aggiunto potrebbero vedere eroso un pezzo della loro rendita, mentre le organizzazioni con deployment self-hosted guadagnano uno strumento per ammortizzare l'investimento hardware nel tempo. Inoltre, la capacità di EvoLib di estrarre e affinare automaticamente conoscenza da flussi di esperienza eterogenei apre a scenari edge e ambienti air-gapped — fabbriche, piattaforme petrolifere, siti militari — dove il modello deve adattarsi a condizioni mutevoli senza mai connettersi a reti esterne. Non è una promessa lontana: il codice è già su GitHub, e l'approccio funziona con qualsiasi LLM black-box, rendendolo compatibile con gli stack on-premise più diffusi.