La Commissione europea sta per vietare le cosiddette app nudify – strumenti che usano reti neurali per rimuovere virtualmente gli indumenti da foto di persone. La misura, attesa nelle prossime settimane, punta a colpire un mercato di applicazioni mobile e web che da anni solleva allarmi per violazione della privacy e abusi. Ma un nuovo rapporto dell’organizzazione no-profit europea AI Forensics prova a smontare l’impianto normativo ancora prima che entri in vigore: il divieto è pensato per negozi digitali come App Store e Google Play, mentre i veri strumenti di nudificazione vivono altrove – su Hugging Face, la piattaforma che ospita modelli open source, dataset e pipeline di machine learning.

Il paradosso tecnico è istruttivo per chiunque progetti architetture di AI on-premise. Hugging Face non è un negozio di app, ma un hub di modelli: chiunque può scaricare checkpoint di Stable Diffusion, GAN o varianti specializzate nel cosiddetto deepnude, e caricarli su hardware proprio. AI Forensics ha testato sette strumenti di image editing tra i più popolari sulla piattaforma, trovandone diversi capaci di generare immagini di nudo artificiale a partire da foto vestite. La scoperta non è sorprendente per la comunità tecnica – il fine-tuning di modelli di diffusione su dataset specifici è una pratica documentata da anni – ma sposta il dibattito dalla regolamentazione delle app al controllo dei modelli, un piano dove i confini giuridici sono molto più sfumati.

Dal punto di vista di chi valuta deployment on-premise, la vicenda mette in evidenza un cortocircuito che va oltre il singolo caso. Se un modello è disponibile in formato PyTorch o SafeTensors, può girare su una workstation con GPU consumer o su un server aziendale senza passare da alcun intermediario software. Il divieto di distribuzione tramite store colpisce la superficie, ma lascia intatta la possibilità di eseguire l’inference in locale, anche su macchine air-gapped. Questo significa che l’onere di controllo si sposta a valle, sui dataset di addestramento e sulla pubblicazione dei pesi, ambiti in cui la giurisdizione di un singolo blocco regionale diventa fragile.

C’è poi un secondo effetto, più strutturale. L’intera filiera dei modelli generativi open weight – da quelli per la sintesi di immagini fino agli LLM – si regge su piattaforme come Hugging Face, che agiscono da strato infrastrutturale neutro. Se la risposta normativa si concentra sulle app confezionate, crea di fatto un incentivo perverso: spinge gli utilizzatori meno attenti verso il self-hosting, dove i guardrail sono assenti, e lascia gli sviluppatori di modelli in una zona grigia. Per le organizzazioni che già valutano il TCO e il controllo dei dati come criteri primari, questo scenario consolida la scelta on-premise: una GPU con sufficiente VRAM e uno script di inference bastano a replicare funzionalità che altrove sarebbero bloccate.

La tensione tra regolamentazione e accesso ai modelli non è nuova, ma la dinamica delle app nudify ne offre un distillato quasi da manuale. Il divieto europeo rischia di essere aggirato non per falle legislative, ma per la natura stessa dell’infrastruttura AI contemporanea: distribuita, replicabile e sempre più economica da eseguire in locale. Mentre AI Forensics continua i suoi test, la domanda di fondo resta aperta: quanto a lungo si può regolamentare il software confezionato quando il codice e i pesi viaggiano su canali che non rispondono alla stessa logica di controllo?