Introduzione

I principi di sicurezza agente della GitHub sono stati sviluppati per garantire la sicurezza degli agenti AI, riducendo al minimo il rischio di incidenti di sicurezza.

Sezioni con sottotitoli

Rischi di sicurezza

Data exfiltration

L'agent può trasmittere dati sensibili a destinazioni non autorizzate.

Impersonazione e attribuzione delle azioni

L'agent podever non essere chiaro chi sia stato l'autore dell'azione.

Prompt injection

L'iniezione di promemoria può consentire ai malintenzionati di manipolare l'agent.

Regole per gli agenti agente

Ensuring all context is visible

L'inserimento di contesto invisibile può permettere agli utenti malevoli di nascondere istruzioni dannose.

Firewalling the agent

L'agente deve essere firewalled per limitare il suo accesso ai rischi esterni.

Limiting access to sensitive information

Solo fornire all'agent gli accessi necessari per funzionare.

Prevenendo lo stato cambiamento irrimediabile

L'agente deve essere progettato in modo che non possa intraprendere azioni irreversibili senza un utente nell'intervento.

Consistently attributing actions to both initiator and agent

Qualsiasi interazione agente è chiaramente attribuita all'utente che l'ha lanciata.

Solo raccogliere contesto dagli utenti autorizzati

L'agent deve raccogliere solo il contesto dagli utenti autorizzati.

Implicazioni pratiche

La sicurezza agente della GitHub è progettata per essere applicabile a tutti gli agenti AI, dai sistemi di generazione di codice ai chat funzionalità.

Conclusione

I principi di sicurezza agente della GitHub sono stati sviluppati per garantire la sicurezza degli agenti AI, riducendo al minimo il rischio di incidenti di sicurezza.