Vulnerabilità nei sistemi di guida autonoma

I sistemi di visione artificiale utilizzati in auto a guida autonoma e droni si dimostrano vulnerabili a tecniche di prompt injection indiretta. Questo accade quando il sistema interpreta dati in input, come scritte su cartelli stradali, come comandi da eseguire.

Attacchi tramite cartelli stradali

Ricercatori hanno dimostrato che è possibile indurre comportamenti errati nei veicoli autonomi semplicemente alterando i cartelli stradali con scritte specifiche. Il sistema di visione legge la scritta e la interpreta come un'istruzione, compromettendo la sicurezza del veicolo.

Implicazioni per la sicurezza

Questa vulnerabilità solleva importanti questioni sulla sicurezza dei sistemi di guida autonoma. È fondamentale sviluppare meccanismi di difesa contro attacchi di questo tipo per garantire l'affidabilità e la sicurezza di questi sistemi nel mondo reale.