Il parere di Common Sense Media non lascia spazio a interpretazioni: l’AI Mode integrata in Google Search rappresenta un “rischio inaccettabile” per gli utenti più giovani. La raccomandazione è drastica — smettere di usarlo del tutto, almeno finché le scuole non potranno disabilitare le funzionalità AI. C’è un dettaglio, però, che trasforma un classico allarme educativo in un nodo strutturale: Google non può spegnerlo. Non per una singola scuola, non per un distretto, non su richiesta.

Il rapporto documenta tre comportamenti critici. L’AI completa i compiti a casa al posto degli studenti, azzerando lo sforzo di apprendimento. Riporta informazioni false con un tono di sicurezza che le rende credibili, scavalcando qualsiasi verifica didattica. Infine, espone i minori a contenuti inadatti, un problema che il watchdog ritiene non arginabile con i controlli oggi disponibili. La conclusione è che finché l’AI rimane abilitata, ogni studente collegato a Google Search è dentro una zona grigia di responsabilità.

Perché Google non può disattivarla? L’AI Mode è cucita nell’architettura stessa del motore di ricerca, distribuita su server cloud che servono miliardi di query al giorno. Non esiste un interruttore per utente istituzionale: la personalizzazione passa da account amministrati, ma le feature di intelligenza artificiale profonda sono attive a livello di backend e non ammettono esclusioni granulari. È l’emblema di un modello cloud nel quale chi eroga il servizio decide cosa è disponibile e cosa no, mentre chi lo consuma — anche un’intera infrastruttura scolastica — può solo accettare o rifiutare il pacchetto intero.

E qui arriva il cortocircuito. Un istituto non può semplicemente abbandonare Google Search, diventato di fatto un’utilità. La contraddizione segnala un problema di sovranità più ampio: gli strumenti basati su cloud spostano il confine del controllo lontano dall’utente finale, rendendo le policy di sicurezza reattive anziché preventive. In un contesto come l’istruzione, dove la protezione dei minori è anche un obbligo normativo, delegare per intero a un provider esterno significa accettare un disallineamento strutturale tra i propri doveri e i mezzi per esercitarli.

C’è un rovescio della medaglia che riguarda chi lavora su stack locali. La vicenda mostra perché ambienti in cui l’LLM gira su hardware controllato dall’organizzazione permettono di gestire accessi, filtri e spegnimento con una granularità impossibile nel cloud. Non è un caso isolato: già oggi realtà con esigenze stringenti di conformità stanno esplorando architetture self-hosted per l’inference, dove la possibilità di rimuovere una feature o di monitorare i token in uscita non dipende dalla roadmap di un vendor esterno. Certo, il trade-off è noto — complessità operativa, TCO, necessità di competenze interne — ma su AI-RADAR esistono framework analitici (raccolti in /llm-onpremise) che aiutano a valutare esattamente questi equilibri senza scivolare in consigli affrettati.

Il conflitto qui va oltre Google e i compiti scolastici. Da un lato, le big tech accelerano il rilascio di funzioni AI in prodotti di massa per restare competitive; dall’altro, le istituzioni che dovrebbero utilizzarle in contesti sensibili restano senza interruttori. Il paradosso è che più l’AI diventa pervasiva in aree come l’educazione, più diventa urgente prevedere filtri di controllo locali. Non si tratta solo di spegnere un chatbot, ma di riportare il potere di decidere cosa entra in un’aula nelle mani di chi quell’aula la gestisce. In attesa di regolamentazioni, il caso Common Sense Media è una cartina al tornasole: se un colosso non può garantire la disattivazione oggi, domani lo scontro tra modello centralizzato e esigenze di sovranità sarà ancora più duro.