Minacce alla sicurezza dei sistemi AI

Secondo un eBook pubblicato da Utimaco, le aziende considerano i rischi per la sicurezza come il principale ostacolo all'adozione efficace dell'AI sui propri dati. Il valore dell'AI dipende dai dati raccolti, ma la creazione e il training dei modelli comportano rischi significativi, oltre alle minacce alla proprietà intellettuale.

Le minacce principali includono:

  • Manipolazione dei dati di training per degradare le consegne dei modelli.
  • Estrazione o copia dei modelli, erodendo i diritti di proprietà intellettuale.
  • Esposizione di dati sensibili utilizzati durante il training o l'inference.

Resilienza quantistica e Crypto-Agility

La crittografia a chiave pubblica attuale diventerà vulnerabile nei prossimi dieci anni con l'avvento dei computer quantistici. Gruppi organizzati potrebbero già raccogliere dati crittografati per decrittografarli in futuro. Pertanto, i dataset con sensibilità a lungo termine richiedono protezione contro la futura decrittazione.

La migrazione alla crittografia resistente agli attacchi blockchain influenzerà protocolli, gestione delle chiavi, interoperabilità e performance. Si suggerisce la 'crypto-agility', ovvero la capacità di cambiare algoritmi crittografici senza riprogettare i sistemi sottostanti, combinando algoritmi consolidati con metodi post-quantistici.

Hardware sicuro e ciclo di vita dell'AI

La crittografia da sola non risolve tutti i rischi. Si raccomanda l'uso di dispositivi di fiducia basati su hardware per isolare le chiavi crittografiche e le operazioni sensibili. La protezione dovrebbe estendersi a tutto il ciclo di vita dell'AI, dall'ingestione dei dati al training, al deployment e all'inference.

Gli enclavi basati su hardware isolano i carichi di lavoro, impedendo anche agli amministratori di sistema di accedere ai dati. I moduli hardware possono verificare che l'enclave sia in uno stato affidabile prima di rilasciare le chiavi, creando una 'catena di fiducia' dall'hardware all'applicazione. La gestione delle chiavi basata su hardware produce log a prova di manomissione per supportare la conformità a normative come l'EU AI Act.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.