NeuralTrust raccoglie 20 milioni per blindare gli agenti AI

NeuralTrust, una piattaforma specializzata nella sicurezza degli agenti AI, ha annunciato di aver completato un round di finanziamento seed da 20 milioni di dollari. L'operazione è stata guidata da Alstin Capital, con la partecipazione di VentureFriends, Seaya, Kibo Ventures, Banc Sabadell, EA Ventures Plug and Play Fund e Finaves, il fondo di venture capital della IESE Business School. L'azienda beneficia anche del supporto pubblico dell'European Innovation Council e dell'Agenzia Spagnola di Ricerca (AEI).

Questo investimento giunge in un momento cruciale, mentre le imprese accelerano l'integrazione degli agenti AI in diverse funzioni aziendali. Con il crescente deployment di questi sistemi attraverso molteplici team, piattaforme e fornitori, le organizzazioni pongono una priorità sempre maggiore sulla visibilità, la governance e la sicurezza. Gli analisti di settore prevedono che i requisiti di governance e supervisione per gli agenti AI diventeranno sempre più stringenti man mano che l'adozione continuerà a espandersi.

Una piattaforma unificata per il controllo degli agenti AI

Fondata da Joan Vendrell (CEO), Victor Garcia (CTO) e Alejandro Domingo (COO), NeuralTrust propone una piattaforma unificata che consente alle organizzazioni di scoprire, monitorare, governare e proteggere gli agenti AI all'interno dei loro ambienti operativi. L'azienda ispeziona quotidianamente milioni di interazioni generate dagli agenti AI. Di queste, circa l'1,2% richiede un intervento, spesso a causa di tentativi di estrarre dati sensibili, manipolare strumenti o aggirare i controlli operativi. Queste minacce vengono identificate e mitigate in tempo reale, garantendo un livello di protezione proattivo.

La piattaforma di NeuralTrust si articola in tre prodotti principali. TrustGate gestisce il traffico degli agenti attraverso modelli e strumenti, fungendo da punto di controllo centrale. TrustGuard offre sicurezza in tempo di esecuzione (runtime security) per gli agenti AI, proteggendoli durante le loro operazioni. Infine, TrustLens fornisce visibilità completa sul deployment e sul comportamento degli agenti, permettendo alle aziende di comprendere e controllare le loro attività. Insieme, questi moduli offrono un approccio coeso alla governance, alla sicurezza e al monitoraggio degli agenti AI.

Sicurezza AI: un vantaggio strategico per il deployment on-premise

L'integrazione degli agenti AI nelle operazioni aziendali solleva questioni significative relative al controllo e alla governance, aspetti particolarmente critici per le aziende che valutano deployment on-premise o in ambienti ibridi. La capacità di mantenere la sovranità dei dati, garantire la compliance normativa e operare in contesti air-gapped dipende strettamente da soluzioni di sicurezza robuste come quelle offerte da NeuralTrust. Joan Vendrell, co-fondatore e CEO di NeuralTrust, ha sottolineato come la missione dell'azienda sia trasformare la sicurezza AI in un vantaggio strategico per le imprese che definiranno il prossimo decennio.

NeuralTrust contribuisce attivamente anche alla ricerca sulla sicurezza AI. L'azienda ha identificato e documentato nuove tecniche di attacco, tra cui il metodo di “jailbreak” multiturn noto come “Echo Chamber” e il vettore di attacco multimodale “Semantic Chaining”. Entrambe queste scoperte sono state incorporate nella tassonomia del progetto OWASP AI Security, evidenziando l'impegno dell'azienda nel progresso della sicurezza del settore. Per chi valuta deployment on-premise, esistono trade-off significativi tra controllo, sicurezza e TCO. AI-RADAR offre framework analitici su /llm-onpremise per approfondire queste valutazioni.

Prospettive future e l'evoluzione della protezione AI

I nuovi fondi saranno impiegati per consolidare ulteriormente la piattaforma di NeuralTrust, espandere il team di ingegneria e ampliare il supporto per la crescente varietà di modelli AI, strumenti e piattaforme adottati dalle imprese. Questo rafforzamento consentirà a NeuralTrust di affrontare le sfide poste da un panorama tecnicico in rapida evoluzione, dove la complessità degli agenti AI e la loro integrazione nei processi critici richiedono soluzioni di sicurezza sempre più sofisticate.

L'espansione dell'uso degli agenti AI rende indispensabile l'adozione di meccanismi di controllo e governance efficaci. La capacità di un'organizzazione di proteggere i propri asset digitali e di mantenere la fiducia dei clienti dipenderà in larga misura dalla robustezza delle sue strategie di sicurezza AI. NeuralTrust si posiziona come un attore chiave in questo scenario, offrendo gli strumenti necessari per navigare in sicurezza l'era degli agenti AI.