Nvidia ha appena rovesciato il tavolo con una rivelazione che dice molto più di un semplice numero: centinaia di migliaia di server Grace standalone sono già stati consegnati. La notizia, filtrata attraverso un redirect del messaging del colosso di Santa Clara, sposta la luce dai GPU ai processori, con le CPU che prendono il centro della scena nei cosiddetti data center agentici.

Il dettaglio più significativo è l'aggettivo standalone. Grace è un processore Arm a 72 o 144 core Neoverse V2, pensato per abbracciare grandi quantità di memoria a banda larga (fino a 1 TB/s con LPDDR5X) e non per forza affiancato a una GPU Hopper. Le macchine spedite, stando alla fonte, sono server con la sola CPU, un oggetto che fino a ieri sembrava ancillare nella strategia di Nvidia, da sempre identificata con l'accelerazione parallela.

Perché questa sterzata? La risposta è nel termine “agentici”. I carichi di lavoro che eseguono agenti AI — catene di chiamate a modelli, orchestrazione, recupero dati da database vettoriali, esecuzione di codice — si compongono di moltissime operazioni concorrenti ma leggere. Non richiedono l'enorme potenza bruta di una GPU per il training, ma beneficiario di un elevato parallelismo a thread, cache ampie e un accesso veloce alla memoria. In pratica, il profilo ideale per una CPU server di fascia alta.

Questo riposizionamento non è solo tecnico: è una mossa che ridisegna gli equilibri del mercato delle infrastrutture AI. Finora il dibattito sul deployment on-premise si è scontrato con il costo e la disponibilità delle GPU. Il messaggio implicito di Nvidia è che per una fetta crescente di inference e per l’esecuzione di pipeline agentiche, i rack di sole CPU possono bastare — o almeno possono diventare la prima scelta per chi vuole mantenere il controllo totale dei dati senza dover competere per la fornitura di GPU scarse.

Le implicazioni per chi valuta architetture self-hosted sono profonde. Un’infrastruttura basata su Grace standalone riduce la dipendenza dalla supply chain delle GPU, semplifica il raffreddamento e abbassa il costo per watt, anche se richiede un ripensamento delle librerie software (molti framework di inference sono ottimizzati per GPU). Tuttavia, la compatibilità con il software ecosystem dei chip Arm è ormai matura: Kubernetes, container e strumenti come vLLM hanno già bracci che girano nativamente su Arm. Il Total Cost of Ownership si sposta, potenzialmente, verso un CapEx più prevedibile e un OpEx ridotto.

Sul piano strategico, Nvidia sta dicendo al mercato: “Non vi servono sempre le nostre GPU, potete usare le nostre CPU”. La mossa allarga il mercato indirizzabile, intercetta i progetti di data center sovrani in Europa e Asia, e fidelizza i clienti verso un ecosistema hardware che rimane tutto a marchio Nvidia. Allo stesso tempo, mette pressione ai produttori di Arm server come Ampere e ai fornitori di CPU x86, perché introduce un attore con credibilità AI in un segmento che sembrava protetto.

La cifra “centinaia di migliaia” non è un’iperbole: corrisponde a un volume di spedizioni comparabile a quello di intere linee di server enterprise. Significa che i grandi hyperscaler, ma anche i provider di servizi cloud regionali e le aziende con esigenze di sovranità dei dati, stanno già investendo su questa architettura. Segnala che il mercato ha iniziato a separare il problema del ragionamento — il planning degli agenti, la capacità di tenere stato e memoria — dall’addestramento massivo, e che le CPU stanno tornando al centro perché il valore si sta spostando verso l’orchestrazione.

Insomma, la notizia non è solo un dato di vendita: è la fotografia di una biforcazione del deployment AI. Da un lato il training su GPU monster, dall’altro l’inference agentica distribuita su CPU. Per chi progetta infrastrutture on-premise, la domanda non è più “quante GPU posso permettermi?” ma “quanta potenza CPU posso dispiegare per far girare agenti in modo efficiente e sicuro?”. Nvidia, con Grace standalone, ha già dato la sua risposta.