La sfida a CUDA non è più una questione di singole GPU. Il titolo mette insieme due fronti: da una parte AWS e Google spingono stack software alternativi, dall'altra AMD e Intel lavorano per ridurre il costo degli switch nei cluster AI. Il punto non è soltanto chi produce il silicio più veloce, ma quanto costa mettere in piedi un'infrastruttura capace di addestrare e servire LLM su larga scala.

Il vantaggio storico di NVIDIA non deriva solo dalle sue GPU, ma dalla combinazione di hardware, driver e librerie che ha reso CUDA lo standard de facto per il training e per buona parte dell'inference. AWS e Google stanno provando a scardinare questo vincolo con stack proprietari legati ai loro acceleratori cloud. Non è una guerra frontale contro le GPU: è una guerra per togliere a CUDA il ruolo di collante unico dello sviluppo. Se i team possono spostare pipeline di fine-tuning e di inference senza riscrivere tutto, il costo di lock-in scende e la scelta dell'hardware diventa più fluida.

Il secondo fronte è meno visibile ma altrettanto strategico. Gli switch per i cluster AI rappresentano una voce di costo rilevante quando si collegano centinaia o migliaia di nodi. Se AMD e Intel riescono a rendere più accessibili questi componenti, il TCO di un cluster non dipende più soltanto dal prezzo delle GPU. Per chi valuta deployment self-hosted o on-premise, questo sposta la soglia di convenienza: una rete più economica rende più realistici progetti che prima restavano appannaggio dei grandi cloud provider.

C'è un effetto di secondo ordine che va oltre il risparmio immediato. Con costi di rete più bassi, i fornitori di acceleratori alternativi a NVIDIA hanno un incentivo più forte a proporre soluzioni integrate. I cloud provider, a loro volta, possono spingere i loro servizi senza dover dipendere da un unico fornitore di software. Per le aziende che devono rispettare vincoli di sovranità dei dati o che vogliono mantenere il controllo dell'infrastruttura, uno stack meno legato a CUDA riduce il rischio di restare bloccati su una sola piattaforma.

Il nodo resta la maturità del software. Un risparmio sugli switch non elimina la complessità di portare modelli e pipeline su framework alternativi. Ma il segnale strutturale è chiaro: la rendita di posizione costruita attorno a CUDA sta subendo pressioni da più direzioni, e il costo di sistema è tornato al centro del calcolo del TCO. Per chi valuta deployment on-premise, i trade-off non si riducono alla scheda: su /llm-onpremise AI-RADAR offre framework analitici per pesare costi di rete, maturità degli stack e vincoli di sovranità.