La notizia arriva via Reddit e rimbalza su The Verge: un tool capace di generare deepfake pornografici di donne e bambini sarebbe stato ospitato su Hugging Face, la piattaforma di riferimento per i modelli aperti. Immediata la levata di scudi: «pensate ai bambini» diventa, ancora una volta, il grido di battaglia per chiedere restrizioni all’intelligenza artificiale open source.

Il caso è spinoso e la gravità dell’abuso è fuori discussione. Ma se ci si ferma all’indignazione si rischia di lasciarsi sfuggire il vero nodo strategico. Questa storia è l’ennesimo episodio di un copione che si ripete: ogni strumento di IA accessibile viene sfruttato per scopi illeciti, e subito parte la caccia ai modelli aperti. Il bersaglio non è solo la tecnicia, ma il paradigma di distribuzione che la sostiene.

I modelli di generazione d’immagini come Stable Diffusion, spesso usati come base per il fine-tuning verso applicazioni deepfake, sono open weight: chiunque può scaricarli, modificarli e farli girare su hardware proprio. Questo significa che un’azienda, una pubblica amministrazione o un ospedale può eseguire l’inference interamente on-premise, senza inviare dati sensibili a server esterni. È l’architrave della sovranità digitale: controllo completo su dati, latenza, costi e conformità (GDPR compreso).

La reazione istintiva di colpire l’open source in nome della sicurezza rischia di buttare via il bambino con l’acqua sporca. Se i regolatori imponessero a piattaforme come Hugging Face di limitare l’accesso ai modelli, o se l’opinione pubblica spingesse verso un accentramento della distribuzione, a perderci non sarebbero solo i malintenzionati. Sarebbero soprattutto gli attori legittimi che hanno bisogno di AI self-hosted per motivi di privacy, affidabilità o semplice TCO. E a guadagnarci sarebbero i grandi vendor cloud, che già oggi offrono AI come servizio a canone, con poca trasparenza su come gestiscono i dati.

Dal punto di vista tecnico, la nudification non richiede infrastrutture esoteriche: basta una GPU consumer con VRAM sufficiente per eseguire il modello quantizzato e qualche script di preprocessing. È un carico di lavoro che potrebbe girare su un server on-premise aziendale, con tutti i dati in locale. La differenza fondamentale tra un abusatore e un ricercatore che studia modelli generativi sta nell’intenzione, non nella tecnicia. Bloccare la seconda per fermare il primo è un errore già visto con la crittografia e il P2P.

Il punto non è se sia giusto condannare l’uso improprio (lo è), ma se la soluzione prospettata – limitare l’open source – sia proporzionata o addirittura controproducente. Ci sono alternative: sistemi di moderazione integrati nelle pipeline di data loading, watermarking forense da applicare lato inference, e modelli di rilevamento dei contenuti sintetici che possono funzionare anche in locale. Sono strumenti che rispettano il principio di sovranità dei dati e consentono a chi deploya on-premise di mantenere il controllo, senza dover cedere a logiche di censura centralizzata imposte da terzi.

La vicenda è un segnale strutturale: la battaglia per l’IA del futuro non si giocherà solo su benchmark o GPU, ma sul terreno della sicurezza percepita. I sostenitori del cloud centralizzato useranno ogni caso di cronaca per dipingere i modelli aperti come incontrollabili, mentre chi ha bisogno di autonomia tecnicica dovrà dimostrare che è possibile governare l’uso senza spezzare l’ossatura aperta su cui si fonda l’innovazione. Per chi sta valutando un deployment on-premise, la lezione è chiara: investire oggi in tooling di moderazione e auditing interno non è un lusso, ma l’unica via per non farsi dettare le regole da chi vorrebbe chiudere tutto. E, forse, per togliere ai soliti allarmisti l’argomento dei bambini.