Il fact-checking automatico basato su LLM soffre di un problema di fiducia: in un prompt end-to-end, recupero delle fonti, ragionamento e stima dell'incertezza si intrecciano e diventa difficile capire da dove arrivino gli errori. R2VC prova a rompere questo nodo con una pipeline modulare che separa quattro fasi: recupero, generazione di candidati, verifica e calibrazione.
Il sistema combina recupero ibrido sparse+dense su Wikipedia, un generatore supervisionato con fine-tuning e allineamento DPO che produce candidati di verdetto strutturati e diversificati, un cross-encoder NLI esterno per selezionare il candidato più supportato dalle evidenze e un calibratore leggero a livello di sequenza che stima la confidenza e decide se astenersi. È una scelta architetturale precisa: non si chiede a un singolo passaggio di fare tutto, ma si costruiscono componenti separati e verificabili.
I risultati su FEVER danno sostanza all'impianto. Con una backbone da 8 miliardi di parametri, R2VC migliora l'accuratezza del 13,74% rispetto alla baseline. Le ablazioni mostrano che i contributi maggiori arrivano dalla selezione basata sul verificatore e dalla calibrazione: rimuovere la selezione fa scendere l'accuratezza su FEVER al 76,24%, mentre eliminare la calibrazione quasi raddoppia il Brier score portandolo a 0,161. Il messaggio è che la verifica esterna e la calibrazione non sono accessori, ma componenti strutturali della pipeline.
L'analisi manuale di 250 errori aggiunge un dettaglio cruciale: i fallimenti di recupero, in particolare le evidenze con entità sbagliata, restano il collo di bottiglia dominante. Questo significa che nemmeno una verifica forte può compensare un recupero debole. Chi progetta sistemi di fact-checking deve quindi investire prima sulla qualità delle fonti recuperate, non solo sul ragionamento successivo.
Per chi osserva le architetture pensate per ambienti self-hosted e per la sovranità dei dati, la proposta ha un valore strutturale: una pipeline modulare permette di intervenire su singoli stadi, sostituire il retrieval o il verificatore senza rifare l'intero sistema, e mantenere il controllo locale di ogni componente. La fonte non specifica contesti di deployment o requisiti hardware, ma la separazione dei compiti è esattamente il tipo di design che facilita valutazioni on-premise, dove trasparenza e auditabilità contano quanto l'accuratezza. Per chi valuta deployment on-premise di pipeline simili, AI-RADAR offre framework analitici su /llm-onpremise per confrontare i trade-off, senza indicare scelte univoche.
Resta aperta la questione se i guadagni di calibrazione reggano su domini diversi da Wikipedia o su corpora privati, dove il retrieval è spesso il punto più fragile. R2VC indica comunque una direzione chiara: la fiducia nei LLM non si costruisce con prompt più lunghi, ma architetture che separano e controllano le fonti dell'incertezza.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!