Meta ha annunciato che inizierà a notificare i genitori quando un adolescente condivide pensieri suicidi o autolesionistici con il suo chatbot Meta AI. La funzione, attiva da subito negli Stati Uniti, Regno Unito, Australia e Canada, si appoggia agli strumenti di supervisione già presenti su Instagram. L’azienda ha spiegato in un blog post che l’obiettivo è fornire ai genitori un canale di allerta tempestivo, ma la mossa arriva in un momento di crescente pressione pubblica e normativa sulla sicurezza dei minori online.

Dietro la decisione c’è un nodo più profondo: quanto può fidarsi un adolescente di un’intelligenza artificiale quando affronta una crisi psicologica, e cosa succede quando quella stessa IA diventa un sorvegliante che riferisce agli adulti? La promessa dei chatbot è spesso quella di uno spazio sicuro, libero da giudizio, dove parlare di emozioni difficili. Meta AI, integrato in piattaforme come Instagram e WhatsApp, rappresenta per molti giovani un interlocutore sempre disponibile. Ma l’introduzione degli alert cambia radicalmente la natura di quella relazione.

Da un lato, l’iniziativa risponde a richieste legittime di maggiore protezione. I regolatori, soprattutto in Europa con il Digital Services Act e nel Regno Unito con l’Online Safety Bill, stanno imponendo alle piattaforme obblighi stringenti sulla tutela dei minori. Meta stessa è già stata oggetto di inchieste e cause legali per l’impatto dei suoi prodotti sulla salute mentale degli adolescenti. L’alert ai genitori può sembrare una misura di buon senso per prevenire tragedie.

Ma i limiti sono evidenti. L’efficacia dipende dalla capacità del modello linguistico di identificare correttamente le intenzioni autolesionistiche. Gli LLM attuali, per quanto sofisticati, non sono strumenti clinici: possono fraintendere sfumature, minimizzare segnali o, al contrario, generare falsi positivi che innescano allarmi ingiustificati. Inoltre, la mera notifica non garantisce un intervento adeguato: un genitore potrebbe non vedere l’alert in tempo, o non sapere come gestire la situazione.

C’è poi il rischio che i ragazzi, consapevoli del monitoraggio, evitino del tutto di parlare con l’IA di argomenti sensibili, cercando altrove spazi meno controllati – dai server Discord anonimi ai forum non moderati – dove il supporto è assente o addirittura dannoso. L’effetto paradossale sarebbe quello di allontanare gli adolescenti da una tecnicia che, se ben progettata, potrebbe offrire un primo argine al disagio.

Strutturalmente, la scelta di Meta segnala una traiettoria chiara per l’industria: i modelli di IA consumer dovranno incorporare filtri di sicurezza sempre più invasivi, con ripercussioni sul design e sul deployment. Per chi sviluppa o adotta soluzioni self-hosted di LLM – in ambito sanitario, educativo o aziendale – la lezione è duplice. Da un lato, la necessità di integrare meccanismi di rilevamento delle crisi simili a quelli di Meta, ma con la possibilità di personalizzarli e di mantenere i dati sotto il proprio controllo. Dall’altro, il trade-off tra automazione e intervento umano: in contesti critici, la supervisione di professionisti qualificati resta insostituibile.

In definitiva, l’alert di Meta è una pezza su un sistema che corre più veloce della sua capacità di proteggere gli utenti più fragili. Senza un sostanziale miglioramento della capacità degli LLM di comprendere e gestire il disagio psicologico – e senza un ecosistema di supporto che vada oltre la semplice notifica – il rischio è che l’innovazione tecnicica offra solo l’illusione di un controllo.