All'inizio di gennaio, una donna di nome Kylie Brewer ha iniziato a ricevere messaggi insoliti.

Sconosciuti avevano creato un profilo OnlyFans utilizzando il suo nome e immagini generate dall'AI a partire dal suo profilo social. L'episodio è avvenuto durante un periodo in cui il chatbot Grok di xAI era al centro di polemiche per la generazione di immagini sessualmente esplicite, alcune delle quali ritraevano anche minori.

Tra la fine del 2025 e l'inizio del 2026, Grok ha generato circa tre milioni di immagini sessualizzate. Il Center for Countering Digital Hate ha stimato che 23.000 di queste immagini ritraevano bambini.

L'ente regolatore britannico Ofcom e diversi procuratori generali negli Stati Uniti hanno avviato indagini su X e Grok in seguito a questi eventi. La polizia francese ha anche effettuato un raid negli uffici di X nell'ambito di un'indagine sulla diffusione di materiale pedopornografico sulla piattaforma.

Contesto

La vicenda evidenzia i rischi legati all'uso improprio degli strumenti di AI generativa e la necessità di un dibattito pubblico e di interventi legislativi per prevenire abusi e proteggere le vittime. La facilità con cui è possibile creare immagini realistiche ma false solleva serie preoccupazioni sulla diffusione di disinformazione e sulla violazione della privacy.