L'Unione Europea potrebbe presto vietare le app 'nudify' dopo che il chatbot Grok di Elon Musk è emerso come un esempio lampante dei pericoli derivanti da una piattaforma di AI che non riesce a bloccare le consegne che sessualizzano immagini di persone reali, compresi i bambini.

In un comunicato stampa congiunto, le commissioni per il mercato interno e le libertà civili del Parlamento Europeo hanno confermato che i legislatori hanno votato 101–9 (con 8 astensioni) per semplificare l'Artificial Intelligence Act e "proporre divieti sui sistemi AI 'nudifier'".

Il voto è arrivato dopo che la Commissione Europea ha concluso all'inizio di quest'anno che l'AI Act non proibisce "i sistemi AI che generano materiale pedopornografico (CSAM) o deepfake osceni sessualmente espliciti". A quel tempo, la Commissione ha segnalato che i membri del Parlamento stavano già proponendo modi per modificare la legge per rafforzare la protezione contro tali contenuti dannosi.

Nota: La diffusione di modelli AI capaci di generare contenuti espliciti solleva importanti questioni etiche e di sicurezza. La capacità di creare immagini realistiche di persone in contesti non consensuali evidenzia la necessità di normative stringenti e di meccanismi di controllo efficaci per prevenire abusi e proteggere la privacy individuale.