L’inchiesta della BBC ha acceso un fuoco che adesso arriva dritto ai piani alti di Meta. Il ministero indiano dell’Elettronica e dell’Information Technology ha annunciato che convocherà i dirigenti dell’azienda per chiedere spiegazioni formali: Instagram, secondo la ricostruzione, avrebbe veicolato inserzioni a pagamento contenenti materiale pedopornografico (CSAM) a utenti nel paese. Il ministro Ashwini Vaishnaw ha dato mandato ai funzionari di ottenere una risposta ufficiale. Non è la prima volta che una piattaforma finisce sotto i riflettori per la moderazione dei contenuti, ma il particolare degli annunci a pagamento, venduti e distribuiti dal sistema pubblicitario della stessa piattaforma, rende la vicenda più delicata.

Dietro il caso c’è qualcosa che interessa molto da vicino chi si occupa di deployment di intelligenza artificiale in aziende e governi: chi controlla i modelli che decidono cosa passa e cosa viene bloccato? I sistemi di moderazione automatica, spesso basati su un mix di computer vision e Large Language Models (LLM), girano su infrastrutture cloud centralizzate, lontane dai giudici e dai regolatori locali. Quando un governo come quello indiano chiede conto di una falla, il processo di audit si scontra con scatole nere tecniche e con la distanza logistica e giuridica dei data center.

L’illusione del controllo remoto

Per una piattaforma globale, spostare il carico della moderazione su un singolo cloud provider è efficiente in termini di costi operativi, ma crea una dipendenza difficile da scardinare quando scatta un’indagine. I log delle decisioni dei modelli, i pesi delle reti neurali, le pipeline di inference: tutto risiede fuori dalla giurisdizione nazionale. E se un’autorità volesse ispezionare in tempo reale le soglie di sensibilità del classificatore che avrebbe dovuto intercettare il CSAM, scoprirebbe che non può farlo senza la collaborazione attiva dell’azienda — che, legittimamente, bada anche ai propri segreti industriali.

Non sorprende, quindi, che la richiesta indiana non sia solo una convocazione formale, ma un segnale politico: la sovranità digitale passa anche per la capacità di mettere mano ai modelli che plasmano l’esperienza dei cittadini. E qui entra in gioco un tema caro ad AI-RADAR: il self-hosted. Spostare parte dell’inference di moderazione su infrastruttura locale, magari con modelli quantizzati per girare su hardware meno esotico, non è più fantascienza. Le stesse aziende che offrono LLM proprietari stanno rendendo disponibili versioni ridotte, ottimizzate per deployment on-premise, proprio per venire incontro a clienti governativi e imprese con vincoli di residenza dei dati.

Certo, i trade-off non mancano. Un sistema di moderazione on-premise richiede investimenti in capacità di calcolo — GPU con VRAM adeguata, storage veloce, pipeline di aggiornamento continuo dei modelli — e una squadra in grado di gestire il ciclo di vita dell’AI senza dipendere dal vendor. Il Total Cost of Ownership (TCO) va confrontato con il costo delle multe e del danno reputazionale quando la moderazione centralizzata fallisce. Senza contare che, in mercati come l’India, la latenza di rete e la possibilità di operare in ambienti air-gapped possono diventare argomenti decisivi.

L’affaire Meta-India potrebbe sembrare solo un episodio politico-burocratico. In realtà, accelera una discussione che molti responsabili IT stanno già facendo: fino a che punto possiamo delegare a un cloud straniero la sorveglianza automatica dei contenuti, e quando invece è il momento di portare una parte di quella capacità dentro i confini, con modelli aggiornabili, ispezionabili e sotto il controllo di chi risponde alla legge locale? La risposta, per ora, resta sospesa tra ingegneria e diplomazia.