Il classico BM25 supera ancora il retrieval denso in contesti con poche risorse, mentre tecniche come KVBoost, RENDER ed embedding giuridici compatti migliorano uso della memoria e retrieval specializzato.
Un embedding giuridico da 0,6 miliardi di parametri mostra che distillazione, hard negative mining e quantization binaria possono spostare il retrieval legale verso deployment self-hosted. Il dato strutturale non è solo il benchmark, ma la possibilit...
GreenLeaf Law Embed Tiny è un modello di embedding da 0,6 miliardi di parametri per il retrieval giuridico. Ottiene il 75,11% su MLEB e il 64,38% su MTEB Law. La pipeline unisce distillazione e fine-tuning con hard negative mining su 3,4 milioni di c...
RENDER introduce un controllo per la valutazione della memoria negli LLM: fissa la conversazione e varia l'artefatto letto dal modello. Su 500 domande LongMemEval e nove modelli, i pacchetti risolti battono il dialogo grezzo troncato di 42,4–72,6 pun...
Uno studio su 3.000 documenti khmer mostra che BM25 supera dense retrieval e query expansion con Qwen2.5. Il modello più grande produce espansioni migliori, ma introduce comunque rumore. Un segnale per chi costruisce ricerca locale a basso costo.
KVBoost riusa la cache key-value a livello di chunk e riduce il time-to-first-token di 4,49 volte su Qwen2.5-3B, senza perdita di accuratezza. A differenza del prefix caching, non richiede un prefisso iniziale condiviso: un doppio hash separa identit...
Un framework ibrido combina segnali lessicali e semantiche SciBERT per identificare software e database nella letteratura biomedica. Addestrato con una pipeline che unisce estrazione citazionale e distillazione assistita da LLM, supera metodi special...
