Quando un gruppo di ricercatori di università francesi e italiane ha misurato l'effetto dei suggerimenti dell'IA sulle decisioni umane, il verdetto è stato impietoso. La disponibilità a dichiarare «non lo so» è passata dal 44% al 3%. L'accuratezza è precipitata dal 27% al 9%. Eppure, la sicurezza nelle proprie risposte è schizzata dal 30% al 76%. In sintesi: "Le persone sono diventate molto peggiori, la precisione era solo un terzo, ma erano due volte più sicure", ha commentato uno degli autori.

Non si tratta di un problema di qualità del modello sottostante: il punto è che il rapporto tra mente umana e suggerimento automatico innesca un cortocircuito di fiducia. Il fenomeno è noto come automation bias: tendiamo a delegare il giudizio alla macchina, specialmente quando il costo cognitivo del verificare è alto. Qui il dado è tranciante perché l'overconfidence non nasce da un modello scadente, ma dall'interazione stessa. L'IA fornisce una risposta e l'operatore la sposa, azzerando il beneficio del dubbio.

Per chi governa stack di LLM on-premise, questo studio non è un'astrazione accademica. È un avvertimento architetturale. Il controllo totale sull'infrastruttura — dai server GPU alle pipeline di inference — offre la possibilità di incastonare verifiche, audit log e circuiti di feedback che nel cloud pubblico sono spesso ridotti a checkbox. Ma la leva tecnicica, da sola, non basta. Se l'umano a valle accetta passivamente l'output, la sovranità computazionale diventa un guscio vuoto. L'errore si sposta dall'algoritmo al processo decisionale.

Le implicazioni di secondo ordine sono nette. Settori regolati come finanza, sanità e difesa stanno spingendo per deployment on-premise proprio per trattenere la filiera della fiducia: dati sotto chiave, modelli addestrati su domini proprietari, nessuna dipendenza da API esterne. Ma questo studio ricorda che la residenza dei dati non è un vaccino contro l'over-reliance. Il vero costo non è solo il TCO dell'hardware o la fatica del fine-tuning su GPU locali; è la disciplina organizzativa del «verifico prima di fidarmi».

C'è un terzo ordine di lettura, più strutturale. Mentre il mercato spinge per agenti autonomi e copiloti sempre più persuasivi, il crollo della risposta «non so» indica che siamo di fronte a un problema di design dell'interfaccia uomo-macchina. Chi progetta pipeline on-premise oggi può integrare metriche di calibration e soglie di incertezza direttamente nell'output dei modelli, obbligando l'operatore a un confronto critico. Non è fantascienza: tecniche di conformal prediction o indicatori di epistemic uncertainty sono già adattabili a LLM self-hosted. Il punto è che senza un forcing, la propensione umana a fidarsi prevale.

Il messaggio per chi valuta un salto verso l'on-premise non è "fatelo", ma "fatto che sia, costruiteci attorno un ecosistema di scetticismo organizzato". L'hardware — che si tratti di un server con 80 GB di VRAM o di un cluster più ampio — è solo il primo mattone. Il resto è cultura del dubbio, revisione umana obbligatoria e progettazione di flussi dove il «non so» sia un segnale di integrità, non una debolezza da nascondere.