Come i principi di sicurezza agente possono rendere gli agenti AI sicuri come possibili

## Introduzione I principi di sicurezza agente della GitHub sono stati sviluppati per garantire la sicurezza degli agenti AI, riducendo al minimo il rischio di incidenti di sicurezza. ## Sezioni con sottotitoli ### Rischi di sicurezza #### Data exfiltration L'agent può trasmittere dati sensibili a destinazioni non autorizzate. #### Impersonazione e attribuzione delle azioni L'agent podever non essere chiaro chi sia stato l'autore dell'azione. #### Prompt injection L'iniezione di promemoria può consentire ai malintenzionati di manipolare l'agent. ## Regole per gli agenti agente ### Ensuring all context is visible L'inserimento di contesto invisibile può permettere agli utenti malevoli di nascondere istruzioni dannose. #### Firewalling the agent L'agente deve essere firewalled per limitare il suo accesso ai rischi esterni. #### Limiting access to sensitive information Solo fornire all'agent gli accessi necessari per funzionare. ### Prevenendo lo stato cambiamento irrimediabile L'agente deve essere progettato in modo che non possa intraprendere azioni irreversibili senza un utente nell'intervento. #### Consistently attributing actions to both initiator and agent Qualsiasi interazione agente è chiaramente attribuita all'utente che l'ha lanciata. ### Solo raccogliere contesto dagli utenti autorizzati L'agent deve raccogliere solo il contesto dagli utenti autorizzati. ## Implicazioni pratiche La sicurezza agente della GitHub è progettata per essere applicabile a tutti gli agenti AI, dai sistemi di generazione di codice ai chat funzionalità. ## Conclusione I principi di sicurezza agente della GitHub sono stati sviluppati per garantire la sicurezza degli agenti AI, riducendo al minimo il rischio di incidenti di sicurezza.

## Introduction GitHub's agentic security principles were developed to ensure the security of our AI agents, minimizing the risk of security breaches. ## Section with subheadings ### Security risks #### Data exfiltration The agent can transmit sensitive data to unauthorized destinations. #### Impersonation and action attribution The agent may not be clear who was responsible for the action. #### Prompt injection Prompt injection can allow malicious users to manipulate the agent. ## Rules for agentic products ### Ensuring all context is visible Hiding context can allow malicious users to hide directives that maintainers may not see. #### Firewalling the agent The agent must be firewalled to limit its access to external risks. #### Limiting access to sensitive information Only give the agent access to what is necessary for it to function. ### Preventing irreversible state changes The agent must be designed so that it cannot initiate irreversible state changes without human intervention. #### Consistently attributing actions to both initiator and agent Any agentic interaction initiated by a user is clearly attributed to the user, and any action taken by the agent is clearly attributed to the agent. ### Only gathering context from authorized users The agent must gather context only from authorized users. ## Practical implications GitHub's agentic security principles are designed to be applicable to all AI agents, from code generation systems to chat functionality. ## Conclusion GitHub's agentic security principles were developed to ensure the security of our AI agents, minimizing the risk of security breaches.