La proliferazione di immagini e video generati tramite intelligenza artificiale rende sempre più difficile distinguere tra contenuti autentici e falsificazioni.

Integrità e Autenticazione dei Media (MIA)

Le tecniche di integrità e autenticazione dei media (MIA) mirano a verificare la fonte e la storia dei contenuti digitali. La Coalition for Content Provenance and Authenticity (C2PA) guida lo sviluppo di standard in questo campo, affiancata da metodi complementari come watermarks e fingerprinting.

Microsoft Research ha identificato quattro fattori chiave:

  • Crescente diffusione di media sintetici.
  • Legislazione sulla provenienza verificabile.
  • Pressione per segnali di autenticazione chiari.
  • Consapevolezza degli attacchi alle vulnerabilità dei sistemi di autenticazione.

Il report Media Integrity & Authentication: Status, Directions & Futures analizza i limiti reali, i casi limite e le superfici di attacco emergenti per i metodi MIA.

Scoperte Chiave

La ricerca ha definito due nuovi concetti:

  • Autenticazione di Provenienza ad Alta Affidabilità: verifica accurata dell'origine e delle modifiche di un asset.
  • Attacchi Sociotecnici alla Provenienza: attacchi mirati a invertire i segnali di autenticità.

Il report identifica quattro direzioni promettenti per rafforzare l'autenticazione dei media, tra cui:

  • Fornire autenticazione di provenienza ad alta affidabilità.
  • Mitigare la confusione derivante da attacchi sociotecnici.
  • Abilitare una provenienza più affidabile sui dispositivi edge.
  • Investire in ricerca e sviluppo di policy.

L'implementazione e la visualizzazione influenzano l'interpretazione dei segnali di provenienza. L'uso di un manifest C2PA firmato in un ambiente sicuro consente una validazione ad alta affidabilità, ulteriormente rafforzata collegando un watermark impercettibile al manifest. Il fingerprinting supporta l'analisi forense manuale, ma non abilita la validazione ad alta affidabilità.

I metodi MIA sono vulnerabili ad attacchi sociotecnici che possono ingannare il pubblico. La sovrapposizione di provenienza sicura e watermarking impercettibile può mitigare l'impatto di tali attacchi. L'UX design che consente agli utenti di esplorare i dettagli del manifest può supportare le attività di fact-checking.

L'implementazione di un secure enclave nell'hardware dei dispositivi offline è essenziale per rendere più affidabile la provenienza di immagini, audio e video acquisiti. UX e visualizzazione sono aree promettenti per la ricerca futura, con strumenti in-stream che mostrano informazioni sulla provenienza e distinguono tra segnali ad alta e bassa affidabilità. Le parti interessate dovrebbero condurre analisi continue per identificare e mitigare le debolezze attraverso approcci tecnici, policy e leggi.