Intelligenza Artificiale spiegabile per tutti

La crescente adozione del Machine Learning in settori delicati come sanità e finanza solleva interrogativi sulla trasparenza delle decisioni automatizzate. L'Intelligenza Artificiale spiegabile (XAI) mira a chiarire come i modelli generano le loro consegne, ma spesso richiede competenze tecniche specialistiche.

DashAI e il modulo XAI

Un nuovo studio si concentra sull'integrazione di XAI in piattaforme ML no-code, progettate per democratizzare l'accesso all'AI. I ricercatori hanno sviluppato un modulo XAI per DashAI, una piattaforma open-source, che include tecniche come Partial Dependence Plots (PDP), Permutation Feature Importance (PFI) e KernelSHAP.

Risultati dello studio

Uno studio con utenti (N = 20, tra principianti ed esperti) ha valutato l'usabilità e l'impatto delle spiegazioni fornite dal modulo. I risultati mostrano un alto tasso di successo nei compiti di spiegazione (≥80%). I principianti hanno valutato le spiegazioni come utili, accurate e affidabili, mentre gli esperti hanno espresso maggiori riserve sulla loro completezza. Le spiegazioni hanno migliorato la percezione di prevedibilità e la fiducia nell'automazione, soprattutto tra i principianti.

Questo studio evidenzia la sfida di rendere le spiegazioni XAI accessibili ai principianti e sufficientemente dettagliate per gli esperti, un aspetto cruciale per l'adozione diffusa dell'AI.