La manipolazione della realtà nell'era dell'AI

Un recente articolo ha messo in luce come il Dipartimento per la Sicurezza Interna degli Stati Uniti (DHS) stia utilizzando generatori video AI di Google e Adobe per creare contenuti diffusi al pubblico. Questa notizia, unita ad altri esempi di manipolazione di immagini, solleva seri interrogativi sulla crisi della verità nell'era dell'intelligenza artificiale.

Il fallimento degli strumenti di verifica

Nel 2024, c'era grande attesa per iniziative come la Content Authenticity Initiative (CAI), co-fondata da Adobe, che avrebbe dovuto etichettare i contenuti indicando la loro origine e l'eventuale coinvolgimento dell'AI. Tuttavia, queste etichette sono spesso opzionali e possono essere rimosse dalle piattaforme.

L'influenza persistente delle falsità

Uno studio pubblicato sulla rivista Communications Psychology ha dimostrato che anche quando le persone sanno che un contenuto è falso, ne rimangono emotivamente influenzate. Questo suggerisce che la trasparenza da sola non è sufficiente per contrastare la disinformazione.

Verso una nuova strategia

Gli strumenti AI per generare e modificare contenuti stanno diventando sempre più avanzati e accessibili. Di conseguenza, è necessario sviluppare una nuova strategia per affrontare la manipolazione della realtà, che tenga conto del fatto che l'esposizione delle falsità non sempre ripristina la fiducia.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.