La corsa all’intelligenza artificiale generativa ha un paradosso noto: per addestrare o mettere a punto modelli potenti servono enormi quantità di dati, ma nei settori regolamentati quei dati non possono lasciare i confini aziendali. La basca Sherpa.ai ha appena ottenuto 18 milioni di dollari per dimostrare che il paradosso si può sciogliere, portando il training direttamente sui dati, senza mai spostarli.

Il round vede l’ingresso di Forgepoint Capital, venture capital della Silicon Valley focalizzato su cybersicurezza e AI, e la partecipazione degli investitori esistenti Mundi Ventures, Ekarpen, Allegra Holdings e SETT. L’obiettivo è accelerare lo sviluppo di una piattaforma pensata per imprese e governi che vogliono sfruttare i Large Language Models senza cedere la sovranità sulle informazioni.

Sherpa.ai ha già chiuso contratti con realtà come Indra, il National Institutes of Health statunitense, Centogene Genomics, Caja Laboral, Unicaja e Prosegur, coprendo sanità, finanza, industria e settore pubblico. Il tratto comune è la necessità di operare in ambienti dove i vincoli normativi (dal GDPR alle regole sui dati sanitari) rendono impraticabile l’uso di API cloud generiche.

La piattaforma della società si basa su tecniche di apprendimento federato e privacy-preserving, permettendo a più organizzazioni di addestrare modelli in modo collaborativo senza condividere i dataset originali. In pratica, ogni nodo mantiene i dati sui propri server: il modello viaggia, i dati restano fermi.

Sul fronte della ricerca, Sherpa.ai sta validando l’approccio con pubblicazioni peer-reviewed. Uno studio recente, Towards the Next Frontier of LLMs, Training on Private Data: A Cross-Domain Benchmark for Federated Fine-Tuning, esplora come fare fine-tuning di LLM su dataset distribuiti e privati. Un’altra collaborazione con il NIH e l’University College di Londra ha applicato il federated learning alla diagnosi di malattie rare. E un filone sul Blind Federated Learning ha mostrato come ridurre fino al 99 per cento la comunicazione necessaria tra i nodi, abbattendo i costi di rete e rendendo l’addestramento federato più praticabile su larga scala.

Per chi valuta deployment on-premise o ibridi, questi sviluppi segnalano che il fine-tuning di modelli linguistici su dati sensibili sta uscendo dalla fase sperimentale. Le architetture federate, combinate con tecniche di quantization e compressione, stanno avvicinando il momento in cui un’azienda potrà addestrare un LLM sui propri dati senza doverli riversare in un cloud esterno, mantenendo il controllo pieno. Restano aperti i trade-off: l’efficienza comunicativa e il costo computazionale aggiuntivo rispetto a un training centralizzato, la complessità di orchestrazione dei nodi e la necessità di garantire che i modelli non perdano qualità a causa della distribuzione dei dati. Ma la direzione è tracciata. AI-RADAR approfondisce queste scelte di deployment con analisi dedicate, per chi deve bilanciare sovranità, performance e Total Cost of Ownership.