A volte le storie più urgenti non sono quelle che battiamo in home page, ma quelle che ci impongono di fermarci, aprire un documento vuoto, e chiederci se siamo pronti a scriverle. Da mesi osservo una deriva nuova e disturbante su X: immagini generate con LLM che ritraggono persone reali in contesti non consensuali. Non l’ormai tristemente noto deepfake pornografico, ma una categoria più subdola, dove lo scarto tra reale e sintetico si assottiglia fino a diventare questione di pixel e contesto.

Dietro questa esitazione editoriale c’è una riflessione che va oltre il singolo caso. È la stessa che chiamiamo, in redazione, la ‘macchina dello slop infinito’: un sistema che si auto-alimenta di contenuti di bassa qualità, clicca su sé stesso, e ottimizza all’infinito l’ingaggio a scapito del senso. Il termine ‘slop bowl’ – ciotola della sbobba – non l’abbiamo inventato noi, ma calza: un contenitore dove il materiale generato ricade nel training, sporcando le iterazioni successive. È il paradosso dell’ottimizzazione senza governance: più generi, più degradi.

Quando questa dinamica tocca l’immagine non consensuale, il danno non è solo reputazionale per la piattaforma, ma sistemico. I modelli vengono addestrati su dati che in parte loro stessi hanno prodotto, creando loop di feedback tossici. Chi ci guadagna? Nell’immediato, chi monetizza l’attenzione con contenuti estremi. Chi ci perde? La fiducia nell’informazione visiva, la privacy degli individui, e la conformità normativa di aziende che usano AI in contesti regolati.

Per chi valuta deployment on-premise di LLM, questa storia segnala un rischio strutturale che va oltre la disponibilità di VRAM o la latenza di inference. Il vero costo occulto del cloud AI è la rinuncia al controllo sui guardrail: non sai su quali dati il modello è stato fine-tuned, né puoi impedire in modo deterministico che generi contenuti illeciti. In uno scenario on-premise, invece, è possibile blindare il perimetro: filtrare i dataset di addestramento, applicare strati di moderazione prima dell’output, e mantenere tutti i dati sotto giurisdizione, requisito decisivo per chi deve rispettare il GDPR o operare in settori come sanità e pubblica amministrazione.

Non si tratta solo di etica. È una questione di architettura. La macchina dello slop infinito prospera dove la generazione è scollegata dalla responsabilità. Se il tuo modello gira su un hyperscaler che privilegia il throughput, ogni chiamata API può diventare un anello di quella catena. Self-hosted significa interrompere il circuito: il modello resta un attrezzo sotto il tuo controllo, non una fonte di avvelenamento collettivo. È una scelta che ha implicazioni di secondo ordine: sposta il burden della qualità da chi vende token a chi li consuma, e ridefinisce il TCO non in dollari per milione di token, ma in costi-opportunità di conformità e reputativi.

La ‘storia non scritta’ che citavo all’inizio forse non sarà mai pubblicata nella forma di un’inchiesta tradizionale. Ma è diventata per AI-RADAR una cartina di tornasole: ogni volta che un’organizzazione ci chiede se il cloud può bastare, torniamo a quella ciotola di slop e alla domanda che ci siamo posti – chi sorveglia il generatore?