Google interviene su sintesi AI sanitarie

Google ha rimosso alcune delle sue sintesi sanitarie generate tramite AI dopo che un'indagine del Guardian ha evidenziato il rischio per gli utenti derivante da informazioni false e fuorvianti.

La decisione è stata presa dopo che il quotidiano ha scoperto che la funzionalità di AI generativa di Google forniva informazioni sanitarie imprecise in cima ai risultati di ricerca, inducendo pazienti gravemente malati a credere erroneamente di essere in buona salute.

Dettagli delle imprecisioni

Google ha disabilitato query specifiche, come "qual è l'intervallo normale per gli esami del sangue del fegato", dopo che esperti contattati dal Guardian hanno segnalato i risultati come pericolosi.

L'indagine ha evidenziato un errore critico riguardante il cancro al pancreas: l'AI suggeriva ai pazienti di evitare cibi ad alto contenuto di grassi, una raccomandazione che contraddice le linee guida mediche standard per mantenere il peso e potrebbe compromettere la salute del paziente. Nonostante queste scoperte, Google ha disattivato le sintesi solo per le query relative ai test del fegato, lasciando accessibili altre risposte potenzialmente dannose.

La ricerca di valori normali per i test epatici generava tabelle di dati grezzi (elencando enzimi specifici come ALT, AST e fosfatasi alcalina) prive di un contesto essenziale. L'AI non teneva conto di dati demografici come età, sesso ed etnia del paziente. Gli esperti hanno avvertito che, poiché la definizione di "normale" del modello AI spesso differiva dagli standard medici reali, i pazienti con gravi condizioni epatiche potrebbero credere erroneamente di essere sani e saltare le cure di controllo necessarie.

Le aziende che sviluppano modelli di AI generativa devono porre la massima attenzione alla convalida dei dati sanitari, per evitare di diffondere informazioni errate che possono avere conseguenze gravi per la salute degli utenti.