NVIDIA ha annunciato l'Agent Toolkit, una suite di strumenti open source progettata per aiutare le aziende e gli sviluppatori a sviluppare agenti AI autonomi. L'obiettivo principale è affrontare le preoccupazioni relative alla sicurezza, al controllo dei dati e alla responsabilità nell'implementazione di questi agenti in ambienti enterprise.

OpenShell: sicurezza e privacy

Il fulcro del toolkit è NVIDIA OpenShell, un runtime open source che applica policy di sicurezza e privacy per gli agenti autonomi. NVIDIA definisce i singoli agenti come "claws" e OpenShell come il meccanismo per tenerli sotto controllo. NVIDIA sta collaborando con aziende come Cisco, CrowdStrike, Google e Microsoft Security per integrare la compatibilità con OpenShell nei loro strumenti di sicurezza.

Ricerca e costi

Il toolkit include anche NVIDIA AI-Q, un progetto di ricerca agentica basato su LangChain. Utilizza un'architettura ibrida in cui modelli frontier gestiscono l'orchestrazione, mentre i modelli Nemotron di NVIDIA si occupano delle attività di ricerca più complesse. Secondo NVIDIA, questo approccio può ridurre i costi delle query di oltre il 50%, mantenendo al contempo un'elevata precisione.

Partner

Tra i partner che stanno adottando il toolkit figurano Adobe, Atlassian, SAP, Salesforce, ServiceNow e Siemens. Salesforce sta sviluppando un'architettura di riferimento in cui i dipendenti utilizzano Slack come livello di orchestrazione per gli agenti Agentforce, sfruttando i dati sia in ambienti on-premise che cloud. Siemens ha lanciato Fuse EDA AI Agent, che utilizza NVIDIA Nemotron per orchestrare autonomamente i flussi di lavoro nella sua suite di automazione della progettazione elettronica.

Il cambiamento più ampio

NVIDIA si sta posizionando come livello di infrastruttura software per il deployment di agenti in ambito enterprise. L'Agent Toolkit, OpenShell, i modelli Nemotron e AI-Q sono componenti di uno stack che NVIDIA vuole posizionare alla base del software enterprise. Il toolkit è disponibile su build.nvidia.com, con supporto in AWS, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.