Liquid AI ha appena reso disponibili due modelli di retrieval multilingue che potrebbero cambiare le carte in tavola per chi costruisce applicazioni di ricerca semantica su dati proprietari. LFM2.5-Embedding-350M e LFM2.5-ColBERT-350M sono pensati per integrarsi direttamente nelle pipeline RAG esistenti, con un occhio di riguardo all’efficienza computazionale che li rende particolarmente adatti ai contesti on-premise.

Due approcci, un unico obiettivo: precisione multilingue

Il primo modello, LFM2.5-Embedding-350M, è un bi-encoder denso che produce un singolo vettore per documento. L’indice risultante è il più compatto possibile, il che si traduce in ricerche fulminee e in un consumo di risorse contenuto. Il secondo, LFM2.5-ColBERT-350M, adotta invece una strategia di interazione tardiva: memorizza un vettore per token e utilizza MaxSim per abbinare query e documenti. Questo consente uno scenario particolarmente interessante: si possono archiviare documenti in una lingua (per esempio, schede prodotto in inglese) e recuperarli correttamente con query in molte altre lingue. Entrambi sono ottimizzati per undici lingue e, stando ai benchmark, raggiungono prestazioni al vertice della categoria per modelli di questa dimensione.

LFM2.5: l’efficienza come fattore abilitante

Alla base dei due retriever c’è l’architettura LFM2, già nota per la sua velocità di inference. Questo backbone efficiente permette ai due modelli di girare a una velocità paragonabile a quella di modelli molto più piccoli, abbattendo la barriera hardware. Non servono GPU di fascia enterprise per ottenere risposte cross-lingue di qualità: la versione GGUF distribuita su Hugging Face è già pronta per essere eseguita su macchine consumer o server con poca VRAM, un dettaglio che fa la differenza per le aziende che vogliono mantenere i dati all’interno del proprio perimetro.

La sovranità dei dati passa dall’embedding locale

Queste novità si inseriscono in un framework più ampio: la crescente domanda di infrastrutture AI che non dipendano da API cloud esterne. In settori regolamentati o in realtà dove la privacy è critica, poter eseguire l’intera pipeline di retrieval – dall’embedding fino alla generazione aumentata – su hardware proprio non è solo una preferenza, ma una necessità. I modelli di Liquid AI, con il loro footprint ridotto e il formato quantizzato, rispondono proprio a questo bisogno. Non c’è da stupirsi se il formato GGUF sia stato reso disponibile fin dal lancio: pensato per esecuzione locale con tool come llama.cpp, rappresenta il ponte tra la ricerca accademica e l’uso pratico in produzione, senza intermediari cloud.

Il trade-off da considerare

La scelta tra i due non è banale e impone un ragionamento sugli obiettivi del progetto. LFM2.5-Embedding-350M offre indici estremamente snelli e tempi di risposta minimi, ma paga in termini di granularità: un unico vettore per documento può essere meno preciso nel catturare sfumature terminologiche complesse. LFM2.5-ColBERT-350M, al contrario, con un vettore per token, alza l’accuratezza a scapito di uno storage più esigente. In uno scenario on-premise, questo significa bilanciare il costo dell’hardware di archiviazione (dischi e RAM) con la qualità della ricerca. Per il fine-tuning o l’adattamento a domini specialistici, il formato compatto dei modelli Liquid riduce ulteriormente il tempo di addestramento e le risorse necessarie, un punto a favore per i team infrastruttura.

Una prospettiva che guarda al futuro

Liquid AI non è nuova a scelte di trasparenza: rilasciare modelli aperti e già quantizzati indica una strategia che punta a conquistare sviluppatori e realtà enterprise che vogliono il controllo totale del proprio stack. In un momento in cui i Large Language Models monopolizzano l’attenzione, ricordarsi che la qualità della ricerca è il primo mattone di un sistema RAG affidabile è fondamentale. Questi due embedding model, proprio per la loro leggerezza e per il multilinguismo nativo, potrebbero diventare un tassello standard nelle architetture on-premise di chiunque abbia bisogno di cercare informazioni attraverso le lingue, senza mai far uscire i dati di casa.