La lotta contro i deepfake pornografici

La diffusione di app come ClothOff, che utilizzano l'intelligenza artificiale per creare deepfake pornografici, sta generando serie preoccupazioni legali ed etiche. Una causa in corso nel New Jersey evidenzia quanto sia complesso contrastare questo fenomeno.

ClothOff: un caso emblematico

ClothOff è un'applicazione che permette di "spogliare" digitalmente le persone nelle foto. Nonostante sia stata rimossa dagli store ufficiali e bandita da diverse piattaforme social, l'app continua a circolare sul web e tramite Telegram, rendendo vani gli sforzi per bloccarla.

La persistenza di ClothOff dimostra le sfide nel regolamentare e contrastare la diffusione di contenuti deepfake, soprattutto quando questi sfruttano piattaforme decentralizzate o reti private per aggirare i divieti.

La battaglia legale in corso nel New Jersey potrebbe creare un precedente importante per future azioni legali contro app simili e per definire le responsabilità delle piattaforme nella lotta contro i deepfake pornografici.