Un algoritmo di deep learning ti dice che quella retina mostra segni di retinopatia diabetica. Ma cosa succede quando il medico chiede «perché?»? La risposta è spesso un silenzio statistico, una giungla di feature map che nessun essere umano può decifrare senza strumenti aggiuntivi. Un nuovo framework proposto da un gruppo di ricerca punta a smontare questo monolite restituendo alla diagnosi automatica una struttura argomentativa familiare a chiunque abbia mai studiato logica: il modello Toulmin.

L'idea non è semplicemente sovrapporre un layer di explainable AI posticcio. Qui la previsione di un modello di machine learning per immagini retiniche viene scomposta in sei componenti distinte: claim (la diagnosi proposta), grounds (i biomarcatori estratti dall'immagine), warrant (la conoscenza medica che collega quei biomarcatori alla patologia), qualifier (il grado di affidabilità complessivo), rebuttal (le possibili controindicazioni) e backing (il supporto scientifico alla garanzia).

A rendere concreto il giocattolo sono due agenti specializzati. Da una parte un estrattore di biomarcatori fornisce i fatti osservabili, ancorando la claim a evidenze tangibili nell'immagine. Dall'altra, un agente basato su MedGemma – un LLM addestrato su conoscenza medica – analizza il warrant, cioè verifica se quei segni giustificano la conclusione o se esistono spiegazioni alternative. Il qualificatore viene calcolato combinando le performance quantitative di entrambi i modelli, mentre la confutazione sfrutta MedSigLip per misurare la similarità con immagini già classificate, introducendo un contrappeso critico: «quadri simili hanno portato a conclusioni diverse?». Il tutto viene infine presentato allo specialista, che non deve più fidarsi ciecamente di un output, ma può valutare il ragionamento nella sua interezza.

Oltre la scatola nera: chi guadagna quando l'AI argomenta

La struttura argomentativa ribalta la gerarchia tradizionale dell'assistenza diagnostica. Il modello non emette più sentenze: fornisce un dossier. Per il medico diventa possibile contestare singoli passaggi – magari quel biomarcatore è un artefatto, o il warrant è debole perché la conoscenza su quella specifica lesione è ancora parziale. Per i fornitori di soluzioni sanitarie, un sistema del genere alza l'asticella della conformità normativa: regolatori come FDA o enti europei stanno già chiedendo trasparenza nei dispositivi medici basati su AI. Un framework argomentativo produce documentazione di processo nativamente, senza doverla ricostruire a posteriori.

Chi perde? I venditori di modelli proprietari che campano sull'opacità. Un sistema con claim, grounds e rebuttal espliciti è molto più difficile da blindare dietro API cloud con zero visibilità sui meccanismi interni. E se la garanzia è analizzata da un LLM locale, l'intero ragionamento può avvenire on-premise, lontano da server di terze parti. Non è un dettaglio: in ambito sanitario, la sovranità del dato è un requisito spesso non negoziabile.

Cosa si muove sotto la superficie

Questo tipo di architettura suggerisce una direzione precisa per chi progetta infrastrutture di inference in sanità. L'agente MedGemma, anche in versioni compatte e quantizzate, richiede risorse di calcolo che devono poter risiedere fisicamente all'interno della struttura ospedaliera o della clinica. Il messaggio implicito è che l'AI medica affidabile tende a essere self-hosted: i modelli girano dove girano i dati, senza spostare nemmeno un pixel.

Certo, restano interrogativi aperti. Il warrant dipende dalla qualità e dall'aggiornamento della base di conoscenza; un LLM addestrato su letteratura ferma al 2023 potrebbe ignorare studi recenti. E il confronto per similarità d'immagine (MedSigLip) rischia di produrre falsi rassicuranti se il database di riferimento è limitato o sbilanciato. Ma la direzione è tracciata: sostituire la scatola nera con un dialogo strutturato, dove ogni passaggio è separato, verificabile e aggiornabile in modo indipendente.

Per chi oggi valuta deployment on-premise, l'approccio argomentativo non è solo un vezzo accademico. È una risposta concreta alla tensione tra potenza predittiva e fiducia clinica – e un modo per tenere insieme compliance, controllo e trasparenza senza rinunciare all'accuratezza.