Non chiamateli amici. E occhio agli agent che girano tra le vostre email. Meredith Whittaker, presidente della fondazione Signal, ha scelto parole molto nette in una recente intervista a Bloomberg: i chatbot basati su intelligenza artificiale «non sono vostri amici», «non sono esseri coscienti» e «non sono interlocutori senzienti». Una doccia fredda per chi li tratta già come confidenti digitali, e un avvertimento ancora più tagliente sui cosiddetti agent Copilot di Microsoft, che secondo Whittaker rappresentano una vera e propria backdoor.

L’abbuffata di fiducia in scatola

Nel discorso di Whittaker, il punto centrale non è solo filosofico. C’è un problema concreto di sicurezza e design dell’interazione: quando un sistema conversazionale viene percepito come un compagno fidato, gli utenti abbassano le difese. Condividono più dati, gli affidano decisioni delicate, dimenticano che dall’altra parte non c’è una coscienza ma un grande modello linguistico pre-addestrato su enormi quantità di testo, con tutti i limiti di pertinenza, manipolazione e allucinazione del caso. L’illusione del legame emotivo diventa un vettore per la fuga di informazioni.

L’intervista si inserisce in un dibattito sempre più acceso su come i fornitori cloud stiano integrando LLM nei flussi di lavoro aziendali. Il caso dei Copilot agents è emblematico: strumenti che leggono, sintetizzano e agiscono su documenti, calendari, chat e repository di codice, spesso con autorizzazioni estese e senza una reale awareness da parte degli utenti finali. Per Whittaker, questo equivale a installare un canale di accesso privilegiato che bypassa i normali controlli di sicurezza, trasformando un assistente in una «backdoor» informativa.

Il lato on-premise della medaglia

Qui si innesta la prospettiva di chi valuta architetture di deployment alternative. Chi gestisce dati sensibili – enti governativi, aziende regolamentate, studi legali, infrastrutture critiche – non può permettersi di consegnare le chiavi di casa a un LLM in hosting su cloud pubblico senza visibilità su dove finiscono i prompt, come vengono utilizzati per il training e chi può ispezionare le interazioni.

L’approccio on-premise, dove il modello gira su hardware di proprietà all’interno del perimetro aziendale, riduce drasticamente la superficie d’attacco. L’inference avviene localmente, i dati non lasciano il controllo del team IT e le politiche di privacy possono essere applicate in modo granulare. È esattamente lo scenario che la critica di Whittaker richiama per contrasto: un ecosistema dove l’AI non diventa un infiltrato da terze parti, ma uno strumento addestrato, governato e confinato secondo le regole dell’organizzazione.

Cosa significa davvero “non sono tuoi amici” per chi fa deployment

La tentazione di umanizzare i modelli non sparisce con l’on-premise. Anzi, può diventare più subdola perché il sistema è “nostro”. Il pericolo è che i team interni comincino a fidarsi delle risposte come se provenissero da un collega esperto, dimenticando che un LLM, anche quando girato su un cluster locale, rimane un motore statistico. La distinzione di Whittaker fra simulazione di sentienza e capacità effettive va quindi presa come mantra operativo: nella progettazione di interfacce, nella scelta dei prompt, nell’addestramento degli utenti, va rimosso ogni alone di personalità.

Per chi sceglie di self-hostare LLM, questa consapevolezza si traduce in scelte tecniche precise. Sistemi di audit sui flussi di input/output, filtri di sicurezza senza delega al cloud, containerizzazione con politiche di isolamento stretto, versioni del modello sottoposte a quantization che ne riducono il footprint senza sacrificare le performance – tutto contribuisce a mantenere l’AI come tool deterministico e non come entità autonoma.

L’agenda della sovranità digitale

Le parole di Whittaker, dal pulpito di una delle aziende più rispettate al mondo per l’architettura crittografica end-to-end, risuonano forte nel momento in cui le grandi piattaforme spingono per colonizzare i flussi di lavoro con agenti capaci di muoversi in automatico. La denuncia della “backdoor” non è un argomento per addetti ai lavori: è un campanello d’allarme sulla direzione che stanno prendendo i cosiddetti “assistenti intelligenti”.

Per il lettore di AI-RADAR, il messaggio è inequivocabile. Ogni volta che si valuta un LLM as-a-service, occorre soppesare il guadagno di produttività contro il rischio di aprire un canale non governato sui propri dati. Le infrastrutture on-premise non sono una bacchetta magica, ma offrono il controllo necessario per evitare che l’amico digitale si trasformi in una falla sistemica. E ricordare che l’AI non è nostra amica è il primo, fondamentale passo per usarla senza subirla.