Meredith Whittaker, presidente di Signal, ha scelto parole nette per ricordare a chiunque interagisca con un assistente conversazionale cosa c’è davvero dietro lo schermo: «Questi non sono vostri amici. Non sono esseri coscienti. Non sono interlocutori senzienti». Un richiamo che non arriva da un’accademica qualunque, ma dalla guida di una delle app più attente alla privacy, e che risuona con forza in un momento in cui i chatbot basati su LLM popolano sia le app consumer sia gli ambienti aziendali, sempre più spesso portati on-premise.

L’avvertimento di Whittaker colpisce al cuore una dinamica psicologica sottile ma pericolosa: la tendenza a umanizzare strumenti statistici che producono testo coerente senza alcuna comprensione reale. Per chi gestisce infrastrutture self-hosted, la trappola è duplice: da un lato il controllo diretto su dati e modelli crea un’illusione di sicurezza aggiuntiva, dall’altro l’utente finale abbassa le difese perché l’assistente “gira sui nostri server” e quindi sembra più innocuo.

Il pattern matcher nascosto nell’interfaccia parlante

I grandi modelli linguistici – Llama, Mistral, Phi e i vari fork open-weight – non ragionano, non provano emozioni, non hanno intenzionalità. Sono sistemi addestrati a predire la sequenza di token più probabile data una stringa di input. L’interfaccia conversazionale inganna: risposte fluide e tono colloquiale fanno scattare schemi relazionali umani. Eppure ogni frase generata è il risultato di calcoli statistici su un corpus di addestramento, senza stati mentali né memoria episodica. Nei deployment aziendali on-premise, questa distinzione può apparire ovvia per il team MLOps, ma è tutto fuorché scontata per colleghi di altri reparti che iniziano a confidare timori professionali o dati di progetto a un chatbot “amichevole”.

Il paradosso del controllo: on-prem non è una cortina magica

Portare il modello nei propri datacenter garantisce sovranità sui dati e conformità normativa, due pilastri che AI‑RADAR analizza sistematicamente nei percorsi di valutazione per il self-hosting. Tuttavia, il controllo tecnico non si estende automaticamente al comportamento umano. Un assistente interno può diventare un punto di fuga per informazioni riservate se la cultura aziendale non distingue chiaramente tra tool e confidente. Il rischio non è l’hacking del modello, ma la banale condivisione di segreti commerciali, credenziali o strategie con un sistema che, per quanto isolato, non sa custodirli e potrebbe riprodurli – letteralmente – in una sessione successiva, soprattutto senza meccanismi di cancellazione del contesto.

Oltre la conformità: la “sovranità della percezione”

L’avvertimento di Whittaker sposta il baricentro dalla sovranità dei dati a quella che potremmo chiamare sovranità della percezione. Non basta che i log restino nel rack aziendale; serve che chi interagisce con il modello abbia ben chiaro che sta parlando con un artefatto statistico. Qui entrano in gioco scelte di design spesso sottovalutate: l’interfaccia deve segnalare in modo persistente la natura non umana dell’assistente, i log di sessione vanno analizzati per individuare pattern di scambio eccessivamente confidenziale, e le policy di utilizzo devono essere accompagnate da formazione specifica. In ambiti regolati come il GDPR, la differenza tra “dato accidentalmente condiviso con un sistema interno” e “dato processato lecitamente” può assottigliarsi fino a diventare un problema legale.

On-premise: leva per l’accountability, non scudo

La lezione per chi sceglie stack locali è chiara: l’on-premise resta la strada maestra per governare i flussi informativi, ma va accompagnata da un rigido framework di accountability. Monitorare le interazioni senza violare la privacy degli utenti, impostare filtri sui contenuti prodotti, limitare l’uso di memoria a lungo termine: sono tutte mosse che riducono la superficie di rischio. AI‑RADAR dedica da tempo un’attenzione particolare a questi trade-off, perché la decisione di adottare un LLM self-hosted non è solo tecnica, è anche organizzativa. Il monito di Whittaker non frena l’adozione dei chatbot, ma ricorda che portarli in casa propria moltiplica la responsabilità, non la elimina.