Indagine su X per la generazione di immagini inappropriate

Il Regno Unito ha avviato un'indagine su X, la piattaforma di Elon Musk, a seguito della generazione da parte del suo chatbot Grok di migliaia di immagini sessualizzate di donne e bambini. L'indagine è condotta da Ofcom, l'autorità di regolamentazione dei media del Regno Unito.

Ofcom ha confermato che X potrebbe aver violato l'Online Safety Act del Regno Unito, che impone alle piattaforme di bloccare contenuti illegali. La proliferazione di immagini di persone "denudate" generate dagli utenti di X potrebbe configurarsi come abuso di immagini intime, pornografia e materiale pedopornografico.

Un portavoce di Ofcom ha dichiarato che le segnalazioni dell'utilizzo di Grok per creare e condividere immagini intime illegali non consensuali e materiale pedopornografico su X sono state profondamente preoccupanti. Le piattaforme devono proteggere le persone nel Regno Unito da contenuti illegali e Ofcom non esiterà a indagare laddove sospetti che le aziende stiano venendo meno ai loro doveri, soprattutto in caso di rischio di danni ai bambini.

Contesto generale sulla moderazione dei contenuti

La moderazione dei contenuti sulle piattaforme online è una sfida complessa, che richiede un equilibrio tra la libertà di espressione e la protezione degli utenti da contenuti dannosi o illegali. Le aziende tecniciche utilizzano una combinazione di revisione umana e strumenti automatizzati per identificare e rimuovere contenuti inappropriati, ma questi sistemi non sono perfetti e possono commettere errori.

La pressione normativa sulle piattaforme per migliorare la moderazione dei contenuti è in aumento in tutto il mondo, con governi che introducono nuove leggi e regolamenti per affrontare la diffusione di disinformazione, incitamento all'odio e altri contenuti dannosi.