Scandalo deepfake su Instagram: celebrità nel mirino

Una nuova ondata di influencer generate dall'intelligenza artificiale sta invadendo Instagram con immagini manipolate che le mostrano in situazioni compromettenti con celebrità di spicco. Tra i bersagli figurano LeBron James, iShowSpeed e Dwayne "The Rock" Johnson. Un caso limite ha visto coinvolto persino il presidente venezuelano Nicolás Maduro.

Le immagini, pur essendo frutto di elaborazioni AI, non vengono etichettate come tali e spingono gli utenti verso piattaforme a pagamento dove le stesse influencer virtuali vendono contenuti espliciti. Questo schema sfrutta la viralità dei contenuti scioccanti per monetizzare la pornografia generata dall'AI.

La formula del successo (illecito)

Questi contenuti seguono uno schema ben preciso: un'immagine iniziale mostra l'influencer AI accanto alla celebrità, spesso in un selfie sorridente. La didascalia recita: "Come è iniziato". Successivamente, il video mostra brevi clip o immagini successive al rapporto sessuale simulato, con i protagonisti sudati e in disordine.

Le banche più colpite includono LeBron James e Johnny Sins, ma la lista si allunga a dismisura, comprendendo streamer, lottatori MMA e calciatori. Ciò che conta è generare engagement, a prescindere dalla verosimiglianza.

Meta sotto accusa

Nonostante le segnalazioni, Meta sembra incapace o non intenzionata a arginare il fenomeno. Molti di questi contenuti raggiungono milioni di visualizzazioni. Cliccando sul profilo delle influencer, gli utenti vengono indirizzati a Fanvue, un competitor di OnlyFans con politiche più permissive verso i contenuti generati dall'AI. Qui, gli account ammettono di essere "generati o migliorati dall'AI" e vendono immagini e video.

Questa tendenza evidenzia come la creazione di contenuti provocatori generati dall'AI sia diventata un business consolidato, con l'obiettivo di attirare traffico verso piattaforme a pagamento. In alcuni casi, le influencer AI arrivano a rubare contenuti da creator reali, sostituendo i volti con i propri.

Le celebrità, a differenza dei creator di contenuti per adulti, hanno maggiori strumenti legali per difendersi dall'uso non autorizzato della propria immagine. In passato, LeBron James ha già inviato diffide a società che creavano video AI che lo riguardavano.