Il vero blocco della classificazione documentale in azienda non è mai stato l’architettura del modello, ma il progetto di etichettatura che lo precede e la paura istituzionale di lasciare che un modello si riaddestri da solo. SIFT (Self-Improving, Frozen-gate Training) attacca entrambi i problemi con un’idea tanto semplice quanto potente: una pipeline a due velocità in cui un classificatore leggero su CPU gestisce la maggior parte del traffico e solo i casi a bassa confidenza vengono passati a un LLM, che funge da giudice e produce le etichette mancanti.

Quel verdetto non serve solo a rispondere all’utente: viene archiviato in un corpus etichettato che addestra in loop il modello economico. Così il classificatore migliora con l’uso, il tasso di escalation cala e il corpus cresce dal traffico di produzione anziché da uno sforzo di annotazione iniziale. Per integrare una nuova famiglia di documenti bastano un bundle dichiarativo (spazio delle etichette, frasi àncora e un glossario per il giudice LLM), non un progetto di labeling.

La parte più delicata è la sicurezza. Un classificatore che si riaddestra in autonomia può regredire in silenzio, magari dimenticando classi critiche. SIFT risolve con un meccanismo a due stadi: prima di promuovere il modello aggiornato, verifica la regressione dell’F1 sulle etichette critiche e su un set di regressione dorato congelato, mai usato in training. Se uno dei due check fallisce, la promozione viene bloccata. Ciò che prima era un azzardo — riaddestrare mensilmente senza supervisione umana — diventa routine.

CPU, non GPU: il ritorno dell’inference frugale

La scelta di un encoder sparso SPLADE abbinato a un head LightGBM non è solo ingegneristica, è economica. Il pipeline sta in CPU e consuma risorse minime, rendendo SIFT adatto a deployment on-premise anche su infrastruttura datacenter convenzionale, senza GPU. Per chi deve mantenere la sovranità dei dati o ridurre la dipendenza da cloud, questa è una differenza strutturale: niente acceleratori costosi, niente latenze di rete, nessun dato che lascia il perimetro aziendale.

L’LLM giudice può invece essere un modello più pesante — ma visto che viene chiamato in causa solo per una frazione ridotta delle pagine, il costo computazionale complessivo resta contenuto. Il TCO si sposta da un modello a un sistema, e il disaccoppiamento tra componente lenta e componente veloce permette di ottimizzare ciascuna in modo indipendente.

Implicazioni di secondo ordine: chi vince e chi perde

Per le organizzazioni con grandi volumi documentali non strutturati — banche, assicurazioni, PA, studi legali — SIFT segnala che l’etichettatura può diventare un costo marginale trascurabile. Questo cambia gli incentivi: invece di investire in enormi campagne di annotazione upfront, si può partire con un insieme minimo di definizioni e lasciare che il sistema si affini con il traffico reale. Le società di servizi di labeling potrebbero vedere ridimensionata la domanda; al contrario, chi integra pipeline ibride on-premise può offrire valore su misura senza esternalizzare dati sensibili.

A livello strutturale, l’architettura di SIFT punta verso un futuro in cui i modelli costosi vengono usati come insegnanti per modelli più snelli, un pattern che ricorda la distillation ma con un ciclo di feedback continuo e ancore di sicurezza. È un segnale forte per chi progetta stack locali: investire in un LLM on-premise non serve solo a rispondere alle richieste, ma a generare dati etichettati di alta qualità che alimentano modelli più piccoli e veloci. L’hardware diventa un abilitatore di cicli di apprendimento, non un semplice motore di inference.