L’eSafety Commissioner australiano non usa giri di parole: gli strumenti per fermare l’estorsione sessuale online esistono, e le aziende più grandi del mondo non li stanno usando. Nel rapporto trasparenza pubblicato martedì, l’ente regolatore elenca «gap significativi» nel modo in cui Apple, Meta e Google rilevano e prevengono gli abusi sui minori. La notizia, di per sé, non sorprende: da anni le ONG segnalano che i sistemi di moderazione sono reattivi, non proattivi. Ma il rapporto segna uno spartiacque perché sposta l’onere della prova: non è più questione di sviluppare tecnicia, ma di distribuirla e attivarla.

Il punto non è se i colossi tech abbiano i mezzi – li hanno – ma dove decidono di far girare il rilevamento. Ogni scelta di deployment porta con sé un trade-off fra efficacia, privacy e controllo. Apple, per esempio, dopo un primo tentativo di scansione on-device per materiale pedopornografico, ha fatto marcia indietro di fronte alle proteste di chi vedeva in quel meccanismo un precedente pericoloso per la crittografia end‑to‑end. Meta e Google analizzano i contenuti principalmente sui propri server, ma questo significa accumulare dati non crittografati in cloud, con costi di infrastruttura e rischi di esposizione normativa crescenti.

La partita non è (solo) legale, è architetturale

Qui si innesta un ragionamento che tocca chiunque valuti un deployment on‑premise o self‑hosted per carichi sensibili. Il rapporto australiano non impone una tecnicia specifica, ma alza l’asticella della responsabilità. Se un’organizzazione tratta dati di minori o contenuti a rischio – pensiamo a piattaforme scolastiche, servizi di messaggistica aziendale, hosted Exchange per studi legali – la pressione a implementare modelli di rilevamento locali, sotto il proprio controllo, diventa un argomento di compliance, non solo di principio.

L’alternativa server‑side, infatti, obbliga a gestire flussi di dati che attraversano confini e giurisdizioni, aumentando la superficie di attacco e i vincoli GDPR. L’on‑device o il processing on‑premise riduce il perimetro: il contenuto sospetto non lascia il dispositivo o il cluster aziendale, i metadati restano interni e la crittografia end‑to‑end non viene bucata. È il motivo per cui framework di inference locale e modelli quantizzati – da LLM specializzati a classificatori più tradizionali – stanno guadagnando attenzione anche fuori dalla nicchia degli appassionati: offrono una via per dimostrare «due diligence» senza cedere dati a terzi.

Chi vince e chi perde

A guadagnarci, paradossalmente, saranno i fornitori di soluzioni che permettono di fare scanning senza cloud: chip con enclave sicure (Secure Enclave, Trusted Execution Environment), software di on‑device machine learning, e piattaforme di orchestrazione per modelli self‑hosted. Perderanno posizioni le architetture che facevano della centralizzazione indiscriminata il loro vantaggio operativo, perché la moltiplicazione delle giurisdizioni – simile a quella privacy‑first che abbiamo visto con il GDPR – frammenterà i data center normativi rendendo insostenibile una sola pipeline globale.

La mossa australiana non è isolata: il Regno Unito con l’Online Safety Bill e l’Unione Europea con il Digital Services Act stanno costruendo gabbie regolatorie che, di fatto, premiano chi può elaborare in locale. Non è un obbligo esplicito, ma una conseguenza di secondo ordine di requisiti come «best efforts» nella detection e audit indipendenti.

Le aziende chiamate in causa reagiranno con cautela, sapendo che ogni decisione tecnica oggi diventa un precedente legale domani. Ma il tempo dei «non abbiamo ancora la tecnicia» è finito. La domanda ora è: volete davvero attivarla, e dove?