Affidarsi a un LLM per consigli di salute pubblica è un azzardo quando ogni risposta può contenere un'allucinazione e le linee guida ufficiali cambiano di settimana in settimana. Un nuovo studio prende di petto questo problema con la Retrieval-Augmented Generation, dimostrando che ancorare le risposte a un corpus ufficiale e aggiornato non solo riduce i rischi, ma fa competere modelli aperti di dimensioni contenute con giganti proprietari, senza bisogno di cloud.

L'estensione di PubHealthBench, un benchmark di 7.929 domande tratte dalla guida del governo britannico, ha permesso di smontare la pipeline di retrieval e generazione per capire dove si annidano i guadagni reali. Recupero ibrido – che combina sparse, dense e sovente un mix dei due – ha migliorato sistematicamente il richiamo e la qualità del ranking, con un'interazione sottile tra lunghezza dei chunk e dominio tematico. Non basta gettare dentro documenti: il modo in cui si indicizza e si seziona il sapere sanitario conta quasi quanto il modello linguistico che poi risponde.

Il risultato più dirompente è che dare contesto recuperato a modelli open-weight di taglia modesta (quelli che potremmo eseguire su un server locale, senza GPU esotiche) ha alzato la precisione fino a eguagliare o superare LLM molto più grandi usati senza retrieval. Il merito non va al parametro in più, ma alla capacità di scegliere il contesto giusto e di integrarlo senza perdere il filo. Per chi gestisce infrastrutture sanitarie, questo cambia le carte in tavola: non serve affittare potenza di calcolo altrove né cedere dati sensibili a servizi esterni, perché l'intero stack – recupero, inference, aggiornamento del corpus – può restare on-premise.

Il team ha poi affrontato un punto dolente: valutare risposte libere, non solo quiz a scelta multipla. Hanno messo a punto un giudice LLM che misura fedeltà, completezza, chiarezza e coerenza fattuale, convalidandolo con doppia annotazione umana. L'accordo è forte su fedeltà e completezza, molto meno su coerenza fattuale e chiarezza – un segnale di cautela per chi vuole automatizzare la validazione di sistemi critici. Resta il fatto che disporre di metriche replicabili è essenziale quando si rilascia un sistema self-hosted dove il feedback umano scarseggia.

La lezione strutturale è che il retrieval non è un accessorio ma l'architrave di un LLM affidabile in domini regolamentati. Per le agenzie di sanità pubblica, il messaggio è chiaro: investire nella cura di basi documentali aggiornate e in pipeline di recupero ibride porta più benefici dell'ultima versione di un modello da centinaia di miliardi di parametri. E poiché il tutto può girare su hardware comune – open-weight, inference locale – si riapre la partita della sovranità digitale, dove il controllo sui dati e sulle risposte non è negoziabile.