L'ascesa dei deepfake in tempo reale e il caso Delulu

L'avanzamento delle tecnicie di intelligenza artificiale ha reso sempre più accessibili strumenti capaci di manipolare immagini e video in tempo reale. Tra questi, l'applicazione Delulu, che consente agli utenti di alterare il proprio aspetto con deepfake in diretta, è finita al centro di un dibattito dopo un incidente che ha sollevato serie preoccupazioni etiche e legali. Uno streamer, Sam Pepper, noto per i suoi contenuti controversi e per essere stato bandito da diverse piattaforme, ha utilizzato Delulu sulla piattaforma Kick per impersonare personaggi pubblici, tra cui il celebre Mr. Beast, e pronunciare frasi potenzialmente diffamatorie.

L'episodio ha evidenziato come la facilità d'uso di queste tecnicie possa portare, come prevedibile, alla creazione di contenuti non consensuali e dannosi. Oltre a Mr. Beast, Pepper ha assunto l'aspetto di altre figure reali come Jeffrey Epstein, Amouranth e Sydney Sweeney, arrivando anche a mostrare parti del corpo generate dall'AI quando impersonava una donna. Questo tipo di abuso solleva interrogativi urgenti sulla responsabilità delle piattaforme e degli sviluppatori di fronte alla diffusione di strumenti di manipolazione dell'identità digitale.

La tecnicia di Delulu: accessibilità e "skin" personalizzabili

Delulu è un'applicazione che offre agli utenti la possibilità di assumere l'aspetto di qualsiasi celebrità da un menu di sembianze che l'app definisce "skin". Queste "skin" possono rappresentare animali, personaggi dei cartoni animati, figure di fantasia, ma anche persone reali come George Floyd, politici del calibro di Donald Trump e Vladimir Putin, o celebrità come Kim Kardashian ed Eminem. Il sito include anche "skin" di numerosi artisti per adulti. Per cambiare aspetto, gli utenti devono semplicemente concedere all'app l'accesso alla propria fotocamera e selezionare una di queste "skin".

Gran parte delle "skin" disponibili su Delulu sono generate dagli utenti stessi, un modello simile a quello adottato da piattaforme come Civitai per la condivisione di modelli AI personalizzati. Questa accessibilità contrasta con soluzioni più complesse e costose, come il software cinese Haotian AI, commercializzato per scopi di truffa, che richiede migliaia di dollari, un'installazione complessa e una potente scheda video. Delulu, pur non raggiungendo lo stesso livello di realismo, è gratuita e intuitiva. L'azienda dietro Delulu è Decart, che ha raccolto oltre 450 milioni di dollari in diversi round di finanziamento da importanti società di venture capital della Silicon Valley come Sequoia e Benchmark. Decart sviluppa anche altri prodotti AI video, tra cui MirageLSD, un generatore di video AI, e Lucy 2, un modello AI video in tempo reale simile a Delulu, ma quest'ultima è specificamente pensata per gli streamer.

Le implicazioni etiche e le sfide di moderazione

L'incidente che ha coinvolto Sam Pepper e Delulu mette in luce le profonde implicazioni etiche e le sfide di moderazione che le piattaforme e gli sviluppatori devono affrontare. I termini di servizio di Delulu, ad esempio, non menzionano esplicitamente l'uso della piattaforma per assumere l'aspetto di persone reali, sebbene dichiarino una politica di rispetto dei diritti d'autore e della proprietà intellettuale. Questa lacuna normativa interna apre la porta a interpretazioni ambigue e a potenziali abusi che vanno oltre la semplice violazione del copyright, toccando la diffamazione e la manipolazione dell'identità.

La rapidità con cui i deepfake possono essere generati e diffusi in tempo reale rende estremamente difficile per le piattaforme di streaming come Kick, nota per le sue politiche di moderazione meno stringenti rispetto a concorrenti come Twitch, intervenire in modo efficace. La mancanza di risposte da parte di Kick e Decart alle richieste di commento sul comportamento di Pepper sottolinea ulteriormente la complessità della situazione. Per le aziende che valutano il deployment di soluzioni AI, specialmente in contesti on-premise dove il controllo sui dati e sui contenuti è prioritario, la gestione di modelli generativi e la prevenzione di usi impropri rappresentano un vincolo fondamentale, richiedendo framework robusti per la governance e la compliance.

Il futuro dei deepfake e la gestione dei rischi

Il caso Delulu è emblematico di una tendenza più ampia nel panorama dell'intelligenza artificiale: la democratizzazione di strumenti potenti che, se da un lato aprono nuove frontiere creative, dall'altro presentano rischi significativi. La capacità di manipolare l'identità digitale in tempo reale solleva questioni non solo legali ed etiche, ma anche di sicurezza e fiducia pubblica. La distinzione tra realtà e finzione diventa sempre più labile, con potenziali ripercussioni sulla reputazione individuale e sulla stabilità sociale.

Per i decision-maker in ambito tecnicico, è cruciale comprendere i trade-off associati all'adozione e allo sviluppo di queste tecnicie. Sebbene Delulu sia un'applicazione consumer, le sue dinamiche riflettono sfide che si presentano anche in contesti enterprise, in particolare per quanto riguarda la sovranità dei dati e la gestione dei contenuti generati dall'AI. La necessità di sistemi di moderazione avanzati, politiche d'uso chiare e meccanismi di attribuzione robusti diventerà sempre più pressante man mano che i deepfake in tempo reale diventeranno più sofisticati e diffusi. La discussione sulla responsabilità degli sviluppatori e delle piattaforme è solo all'inizio, e la capacità di anticipare e mitigare questi rischi sarà fondamentale per un'adozione responsabile dell'AI.