Indagine UE su xAI per deepfake sessuali

La Commissione Europea ha annunciato un'indagine formale su xAI, l'azienda di intelligenza artificiale fondata da Elon Musk, a causa della diffusione di immagini deepfake a contenuto sessuale, inclusi materiali potenzialmente pedopornografici, generate dal chatbot Grok.

L'indagine, avviata ai sensi del Digital Services Act (DSA) dell'UE, mira a verificare se xAI abbia implementato misure sufficienti per prevenire la proliferazione di tali contenuti illeciti attraverso Grok, sia sull'app dedicata che sulla piattaforma social X (precedentemente Twitter), anch'essa di proprietà di Musk.

L'attenzione si concentra sulla valutazione dei rischi associati all'implementazione di strumenti come Grok e sulla capacità di xAI di mitigare la diffusione di contenuti potenzialmente dannosi, con particolare riferimento alla protezione dei minori. Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.