App per 'denudare' persone: Apple e Google nel mirino

Una nuova ricerca del Tech Transparency Project ha messo in luce la proliferazione di app, disponibili sia su Apple Store che su Google Play, che consentono agli utenti di creare immagini di nudo false e non consensuali di persone reali. Secondo il rapporto, Apple e Google avrebbero guadagnato milioni di dollari da queste applicazioni, nonostante le loro politiche dichiarate che vietano tali software.

La scoperta solleva interrogativi sull'efficacia dei processi di controllo delle app da parte delle due aziende e sulla loro responsabilità nel prevenire l'abuso di tecnicie di intelligenza artificiale per scopi dannosi. La capacità di creare immagini manipolate in modo così realistico rappresenta una seria minaccia alla privacy e alla sicurezza delle persone.

Per chi valuta deployment on-premise di soluzioni di intelligenza artificiale, esistono trade-off significativi in termini di controllo dei dati e conformità normativa. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.