L’annuncio di giovedì da parte di Ofcom segna un’escalation in una disputa che covava da maggio. L’autorità britannica ha formalizzato un’indagine su TikTok per accertare se la piattaforma stia violando l’Online Safety Act nel proteggere i minori dai contenuti dannosi. Due gli aspetti al centro dell’esame: l’adeguatezza dei sistemi per determinare se un utente sia effettivamente un bambino, e l’efficacia dei filtri automatici che dovrebbero bloccare o limitare l’esposizione a materiale nocivo.

Non è una novità che i regolatori guardino ai giganti social con sospetto, ma questo caso ha un peso specifico diverso. L’Online Safety Act, entrato in vigore nel Regno Unito, impone obblighi stringenti di ‘duty of care’ e prevede multe salatissime per chi non li rispetta. L’indagine su TikTok è uno dei primi test concreti: non si limita a verificare l’esistenza di policy aziendali, ma scende nel merito dei sistemi tecnici – software, algoritmi di machine learning, meccanismi di stima dell’età – che dovrebbero tradurre quelle policy in azione quotidiana.

Il punto dolente: moderare con l’AI, ma sotto controllo

La moderazione dei contenuti su scala planetaria è impensabile senza un pesante ricorso all’intelligenza artificiale. Modelli di classificazione testuale e visiva, spesso basati su architetture transformer simili agli LLM, analizzano flussi enormi di post, video e commenti per flaggare violazioni. TikTok, come altre piattaforme, addestra sistemi di rilevamento che dovrebbero riconoscere discorsi d’odio, contenuti sessualmente espliciti o materiale che istiga all’autolesionismo. Ma la sfida è duplice: da un lato, l’accuratezza del modello – falsi positivi e negativi sono all’ordine del giorno; dall’altro, la verifica dell’età. Conoscere l’età di un utente è cruciale per applicare soglie differenziate, ma i metodi tradizionali (autodichiarazione, foto del documento) sono deboli. Le tecniche di ‘age assurance’ basate sull’analisi dei comportamenti o su stime biometriche sollevano ulteriori problemi di privacy.

È qui che l’indagine Ofcom potrebbe scavare più a fondo, chiedendo a TikTok di spiegare come sono costruiti e valutati questi modelli. Non basta dire ‘usiamo l’AI’: bisogna dimostrare che il sistema è stato addestrato su dati rappresentativi, che le metriche di performance sono monitorate, che esistono circuiti di feedback per correggere gli errori. Una trasparenza tecnica che poche piattaforme oggi offrono volontariamente.

Oltre TikTok: sovranità dei dati e pressione sull’infrastruttura

Per chi osserva il settore dal lato dell’infrastruttura e del deployment, c’è un filo rosso che lega questa indagine a tendenze più ampie. L’inasprimento normativo sulla protezione dei minori si inserisce in un contesto dove la sovranità dei dati e il controllo sull’elaborazione stanno diventando requisiti non negoziabili. Se un’autorità come Ofcom inizia a pretendere audit approfonditi sui sistemi di moderazione, le aziende potrebbero dover ripensare dove e come girano questi modelli.

Oggi la moderazione di TikTok è verosimilmente eseguita su cloud distribuito, con dati che rimbalzano tra data center in giurisdizioni diverse. Ma un’interpretazione rigida degli obblighi di protezione dei minori potrebbe spingere verso architetture che mantengano i dati sensibili – come le informazioni sull’età o i contenuti segnalati – in territorio nazionale, o almeno sotto un controllo più diretto da parte della piattaforma. Qui si apre uno scenario interessante per il deployment on-premise o ibrido: avere un’infrastruttura self-hosted per i modelli di classificazione permetterebbe di eseguire inferenze senza spostare dati utente fuori da un perimetro controllato, facilitando compliance e audit. Non è fantascienza: già oggi alcune organizzazioni che gestiscono dati particolarmente protetti scelgono di tenere gli LLM per la moderazione su server propri, tagliando fuori terze parti.

Certo, per un colosso come TikTok l’adozione di soluzioni on-premise comporterebbe costi e complessità notevoli. Ma l’indagine Ofcom è un segnale: la direzione di marcia è quella di un maggiore scrutinio tecnico, che premia chi può dimostrare di avere il pieno controllo della propria catena di elaborazione. Non è più solo questione di dichiarare una policy, ma di poterla verificare a livello di sistema. E se la pressione regolatoria continua a crescere, anche i giganti del cloud potrebbero dover offrire opzioni con garanzie di residenza e auditabilità paragonabili a quelle di un ambiente on-premise.

In definitiva, il caso TikTok non è soltanto una grana per un social network. È il banco di prova di una nuova stagione in cui l’intelligenza artificiale usata per proteggere i soggetti fragili deve essere a sua volta passata ai raggi X. E questo cambia i criteri di scelta tecnicica, spostando l’ago della bilancia verso soluzioni che uniscano performance e trasparenza.