Quando un gruppo di ricercatori propone di archiviare BERT con un classificatore k-NN e una manciata di misure di compressione, il riflesso è cercare l’asterisco. Eppure il lavoro pubblicato su “Text Distance from Nested and Hierarchical Repetitions” fa esattamente questo: tre distanze derivate dall’approccio Ladderpath – una variante della Normalized Compression Distance e due metriche native – battono sia gzip sia BERT su compiti di classificazione fuori distribuzione (OOD) e con pochissimi esempi etichettati. Il tutto senza un singolo passo di addestramento.

Il cuore teorico è la Teoria Algoritmica dell’Informazione, che descrive i dati tramite programmi generativi minimi. Ladderpath estrae relazioni annidate e gerarchiche tra sottostrutture ripetute in sequenze linguistiche, costruendo una rappresentazione strutturale che cattura regolarità che altre metriche ignorano. Accoppiata a un semplice k-NN, questa rappresentazione mostra che la struttura conta più della potenza bruta dei transformer quando i dati sono scarsi o cambia il dominio.

Perché è una mazzata per la narrativa “solo LLM”

La notizia non è solo accademica. Per chi valuta deployment on-premise, il messaggio è chiaro: è possibile ottenere classificazione testuale robusta senza dover gestire modelli miliardari, senza GPU dedicate e senza mandare dati fuori dal perimetro aziendale. Le tre metriche Ladderpath girano su CPU in pochi secondi, con un consumo energetico irrisorio rispetto a un’inference BERT, e offrono una interpretabilità naturale: le distanze sono direttamente riconducibili alle strutture ripetute estratte dal testo.

Questo scardina due presupposti diffusi: che servano dataset massicci e fine-tuning costoso per performance accettabili, e che la sovranità dei dati sia inevitabilmente compromessa quando si usa intelligenza artificiale su testi. Un reparto legale che deve vagliare migliaia di contratti, un archivio storico o un sistema di moderazione contenuti in ambito air-gapped possono adottare un classificatore senza infrastrutture cloud e senza inviare documenti sensibili a endpoint esterni. L’intero flusso resta self-hosted, in casa, con TCO minimo.

Chi vince e chi perde

I vincitori immediati sono organizzazioni che operano in contesti low-resource o con requisiti stringenti di privacy: piccole e medie imprese, enti pubblici, realtà che oggi rinunciano all’AI perché i costi computazionali e di governance dei dati sono proibitivi. Anche il mondo edge e i sistemi embedded – dove le risorse sono ridotte all’osso – trovano in Ladderpath un alleato che non richiede acceleratori né iper-ottimizzazioni di quantization.

A perdere terreno sono i fornitori di API di classificazione basate su LLM: se una distanza di compressione può eguagliare e superare BERT in molti scenari, il valore aggiunto di un model serving cloud per task di classificazione si assottiglia. Non significa la fine dei modelli linguistici, ma segnala che la fascia bassa e media delle esigenze di text understanding si sta allargando a soluzioni più frugali e ispezionabili.

Strutturalmente, il lavoro ricorda il momento in cui le CNN vennero affiancate da approcci come le reti siamesi con metric learning: la compressione come lente di similarità non sostituisce il deep learning ma ne ritaglia un dominio preciso. Ladderpath rispolvera la compressione non come trucco euristico ma come istanza rigorosa di distanza algoritmica, riportando in auge la ricerca su metodi training-free e interpretabili. Per chi segue il panorama AI, è un segnale: l’era del “solo scaling” comincia a convivere con un filone pragmatico che guarda al costo reale e alla trasparenza dei risultati.