La richiesta del procuratore di San Francisco David Chiu ad Apple e Google di rimuovere dai rispettivi store 13 app di “nudificazione” – strumenti che con pochi tap trasformano foto ordinarie in immagini esplicite – è più di una semplice azione legale. Mette a nudo (è il caso di dirlo) la tensione strutturale tra il controllo centralizzato della distribuzione software e la natura decentralizzata degli strumenti di intelligenza artificiale generativa.

Le app in questione sfruttano modelli di deep learning – spesso reti generative avversarie o modelli di diffusione – per alterare le fotografie, rimuovendo vestiti o modificando pose e volti. Anche se molte di queste applicazioni appoggiano l’elaborazione a server cloud, non c’è alcuna barriera tecnica che ne impedisca l’esecuzione in locale: un computer con una GPU dotata di sufficiente VRAM è in grado di far girare modelli simili senza mai inviare dati a terzi. E proprio questo aspetto rende l’intervento del procuratore una mossa che va ben oltre la singola app.

Ciò che Chiu contesta alle piattaforme è la violazione delle leggi californiane che vietano di supportare servizi per la creazione di deepfake pornografici. Mirando agli store, l’azione legale punta a colpire il punto di distribuzione più visibile e controllabile. Ma è proprio qui che si apre una crepa: quando i canali ufficiali vengono chiusi, la domanda non scompare; si sposta altrove. È un pattern già visto con i contenuti pirata, i marketplace di exploit e, in ambito AI, con i modelli di linguaggio open source rilasciati senza filtri. Oggi, un utente determinato può scaricare un modello gratuito da piattaforme di condivisione come Hugging Face, installare un’interfaccia come Stable Diffusion WebUI e generare immagini in locale, lontano da qualsiasi controllo di store o autorità centrali.

Per le aziende e i professionisti che valutano il deployment di AI generativa, l’episodio aggiunge un tassello al complesso puzzle della sovranità dei dati e della compliance. Affidarsi a servizi cloud significa accettare le politiche di un intermediario, che a sua volta è esposto a pressioni normative variabili da giurisdizione a giurisdizione. Un’infrastruttura on-premise, al contrario, restituisce il pieno controllo sull’uso degli strumenti, ma sposta sul proprietario la responsabilità di garantire che non vengano impiegati per scopi illeciti – una linea sottile che, nel caso dei deepfake, ha già cominciato a interessare regolatori in tutto il mondo.

La vicenda segnala anche un cambiamento di passo nell’atteggiamento delle istituzioni verso l’AI generativa. Non è più solo una questione di moderazione dei contenuti sulle piattaforme social; ora l’intervento arriva a livello di distribuzione software, un gradino più a monte. Questo crea un incentivo indiretto per lo sviluppo di strumenti che funzionino interamente in locale, magari ottimizzati per girare su hardware consumer: basti pensare agli sforzi di quantization che consentono di eseguire modelli di generazione immagini su laptop con GPU discrete, senza necessità di server cloud.

In definitiva, la richiesta di San Francisco non è soltanto la cronaca di un provvedimento contro app moralmente discutibili. È un sintomo della crescente consapevolezza che il vero campo di battaglia per il controllo dell’AI sarà l’infrastruttura di esecuzione. E in questo scenario, ogni decisione – cloud o locale, store ufficiali o canali alternativi – avrà conseguenze che si riverberano ben oltre la singola applicazione.