L'intelligenza artificiale sta trasformando la sanità: dai flussi amministrativi al supporto decisionale, fino al monitoraggio remoto. Ma il vero banco di prova non è l'algoritmo in sé, bensì la fiducia che medici, pazienti e regolatori sono disposti a concedergli. Senza fiducia, anche il modello più performante rischia di restare confinato a un progetto pilota. E la fiducia, in sanità, poggia su tre pilastri: privacy, trasparenza e supervisione umana.

Oltre lo slogan: la privacy come vincolo di sistema

Il GDPR ha imposto standard stringenti per i dati sanitari, classificati come particolarmente sensibili. Non basta dichiarare conformità: bisogna dimostrarla. Qui entra in gioco l'architettura di deployment. Quando un LLM processa dati clinici su infrastruttura cloud pubblica, il titolare del trattamento perde il controllo sulla localizzazione fisica e sugli accessi di terze parti. La via on-premise, invece, mantiene i dati all'interno del perimetro aziendale, riducendo la superficie d'attacco e semplificando l'audit. In questo scenario, tecniche come la quantization possono persino essere modulate per eseguire inference su hardware locale senza sacrificare la riservatezza, garantendo che i dati non lascino mai il nodo di elaborazione.

Trasparenza e interpretabilità: il cuore della fiducia

La "scatola nera" è nemica della medicina evidence-based. I clinici devono poter comprendere come un sistema arrivi a una raccomandazione, e i pazienti hanno diritto a una spiegazione. Ciò richiede framework di explainability integrabili nel pipeline di inference, e un tracciamento lineage dei dati di addestramento e delle trasformazioni applicate. L'adozione di modelli self-hosted facilita questa trasparenza: l'organizzazione può esaminare i log, validare il comportamento con dataset di controllo, e mantenere un registro immutabile delle decisioni assistite dall'AI. Non si tratta solo di compliance, ma di costruire credibilità operativa giorno dopo giorno.

Supervisione umana: l'anello che manca nei workflow automatici

Né il regolatore né il medico accetteranno mai un «pilota automatico» in ambito clinico. La normativa europea sull'AI Act prevede esplicitamente che le decisioni ad alto rischio richiedano un intervento umano significativo. Ciò implica progettare interfacce che non si limitino a mostrare un output, ma offrano segnali di confidenza, evidenze a supporto e la possibilità di override. In un contesto on-premise, tale integrazione è più fluida perché non ci sono latenze di rete o politiche di accesso cloud a complicare il flusso. Il radiologo che consulta un referto automatico può validarlo, correggerlo e registrare la motivazione nel sistema informatico ospedaliero, mantenendo la responsabilità in capo al professionista.

Perché tutto questo conta per la strategia di deployment

Le strutture sanitarie che valutano l'adozione di LLM si trovano a dover bilanciare potenza computazionale, TCO (TCO) e conformità normativa. Il cloud offre scalabilità immediata, ma introduce complessità legali e di governo dei dati. L'infrastruttura locale, con GPU dedicate e storage NVMe, può sostenere inference a bassa latenza e garantire la residenza fisica dei dati. AI-RADAR ha esplorato in dettaglio i trade-off tra modelli self-hosted e soluzioni SaaS, evidenziando come la sovranità informatica non sia un costo, ma un investimento di lungo periodo per chi opera in settori regolamentati. La fiducia, in ultima analisi, non si compra con un contratto di servizio: si costruisce con scelte architetturali che mettano la privacy e il controllo al centro del progetto.