Oltre l’accordo di fornitura: un cantiere multi-architettura

La notizia non è un semplice contratto per la fornitura di acceleratori. Quando AMD e Anthropic annunciano la costruzione di una «fabbrica AI» su larga scala che rinuncia esplicitamente a CUDA, il segnale che arriva al settore dei data center è inequivocabile: il monolite NVIDIA non è più l’unica scelta percorribile per chi progetta infrastrutture destinate a carichi di lavoro di LLM. L’aspetto più trascurato – ma decisivo – è che per la prima volta non stiamo parlando di un cluster sperimentale o di un proof-of-concept, ma di un impianto pensato per la produzione continua di modelli multi-trilione di parametri, con un impegno di scala industriale.

Per capire la portata del cambiamento, bisogna leggere l’operazione nel framework della stratificazione degli stack hardware-software che ha caratterizzato l’ultimo decennio. La supremazia di NVIDIA nei data center per l’AI non è mai stata una questione di pura potenza bruta delle GPU: le architetture concorrenti hanno spesso offerto specifiche competitive in termini di teraflop e bandwidth. Il vantaggio competitivo si è cristallizzato attorno a CUDA e al suo ecosistema di librerie, compilatori, strumenti di profiling e una comunità di sviluppatori che ha raggiunto una massa critica senza pari. Uscire da questo recinto significa accettare un costo di migrazione che molte imprese hanno giudicato proibitivo.

L’ingresso di Anthropic come partner di riferimento cambia i termini perché non si limita a comprare hardware: porta dentro un team di ricerca e ingegneria capace di contribuire all’ottimizzazione dello stack software, riducendo progressivamente quel costo di migrazione. L’idea di fabbrica, con la sua connotazione di processo continuo e standardizzato, implica che il lavoro su ROCm non sarà un esperimento una tantum, ma un investimento iterativo con cicli di feedback brevi. È un passaggio da «compatibilità sulla carta» a «operatività sostenuta».

Per chi, come il lettore di AI-Radar, è chiamato a prendere decisioni di deployment on-premise, il messaggio è semplice: la multi-architettura non è più un lusso da hyperscaler, ma un’opzione concreta da inserire nelle roadmap. Ciò che serve ora è capire quali strati dello stack vengono realmente impattati e quali trade-off restano da gestire.

Le fondamenta hardware: perché gli Instinct MI300X contano adesso

L’acceleratore al centro dell’operazione è l’AMD Instinct MI300X, basato sull’architettura CDNA 3 e caratterizzato da 192 GB di VRAM per scheda. Il dato non è una semplice cifra da datasheet: per carichi di inference su LLM di grandi dimensioni, la quantità di VRAM disponibile su ciascun dispositivo è uno dei fattori che determinano la densità dei modelli che si possono servire, la dimensione dei batch e la possibilità di gestire contesti lunghi senza dover frammentare il modello su troppi nodi, con il relativo costo di comunicazione.

In uno scenario di self-hosted, dove ogni watt e ogni unità rack possono tradursi in costi operativi diretti, la densità di memoria diventa un parametro chiave per il calcolo del TCO. Avere a disposizione 192 GB di VRAM significa poter eseguire un modello da 70 miliardi di parametri con quantization su una singola scheda o con poche schede in parallelo, riducendo la complessità di rete e i colli di bottiglia. Questo non significa che NVIDIA sia stata superata sul piano tecnico – l’architettura Blackwell ha a sua volta introdotto innovazioni significative – ma indica che AMD ha raggiunto una soglia di capacità che rende la piattaforma credibile anche per i carichi più esigenti.

C’è un secondo aspetto hardware spesso trascurato: l’integrazione a livello di sistema. Le fabbriche AI non sono fatte di sole GPU, ma di nodi, switch, fabric ad alta velocità e sistemi di raffreddamento. AMD sta investendo nell’ecosistema di partner OEM e ODM per offrire configurazioni di riferimento che coprano l’intero stack fisico. Se un’azienda oggi valuta un cluster on-premise per il fine-tuning di modelli open source, la possibilità di ottenere nodi pre-configurati con MI300X e supporto firmware collaudato riduce i rischi di integrazione, che sono uno dei freni principali all’adozione di hardware alternativo.

Resta vero che la pura disponibilità hardware non risolve il nodo software, ed è esattamente su questo che la partita si gioca nei prossimi trimestri.

La sfida software: ROCm e il superamento del fossato CUDA

Per anni la risposta automatica di qualsiasi ingegnere MLOps di fronte alla domanda «possiamo usare GPU AMD?» è stata un sorriso scettico. Il motivo non era la qualità del silicio, ma la maturità del framework software. ROCm, l’iniziativa open-source di AMD per il calcolo accelerato, ha fatto passi avanti notevoli: oggi supporta PyTorch e TensorFlow con una compatibilità a livello di API che consente di eseguire molti carichi di lavoro senza modifiche sostanziali al codice. Alcuni progetti di terze parti, come vLLM per l’inference, hanno aggiunto il supporto ROCm, e la comunità inizia a produrre contenuti specifici.

Il divario rispetto a CUDA, tuttavia, non si misura solo nella copertura delle API. Si annida nei dettagli: profili di esecuzione ottimizzati, tuning automatico dei kernel, disponibilità di librerie specializzate come quelle per l’attenzione flash o per le strategie di parallelism. Un hyperscaler AI come Anthropic ha esattamente le competenze per intervenire su questi punti: team di ingegneri che lavorano a stretto contatto con il compilatore ROCm, contribuiscono al kernel tuning e sviluppano pipeline di deployment ottimizzate. È un processo che ricorda da vicino quanto fatto dai grandi cloud provider per rendere competitive le proprie infrastrutture custom negli anni passati.

L’effetto leva di un partner del genere non va sottovalutato: quando i miglioramenti al software vengono sviluppati per uso interno e poi rilasciati come contributi upstream, l’intero ecosistema ne beneficia. Nel giro di pochi cicli di sviluppo, le ottimizzazioni create per addestrare Claude potrebbero rendere più efficiente l’inference di Llama 3 o Mistral su hardware AMD, abbassando la barriera anche per i piccoli deployer. La direzione è chiara: ROCm si sta avvicinando a un punto di sufficienza operativa, non ancora a un punto di parità assoluta, ma sufficiente per casi d’uso produttivi ben definiti.

Naturalmente, il rischio esecutivo esiste. Colmare un gap software accumulato in oltre un decennio è un’impresa che non si misura in trimestri. Ma il segnale di mercato è innegabile: la domanda di alternative a CUDA è abbastanza forte da convincere un’azienda come Anthropic a impegnarsi strategicamente, e questo sposta il baricentro delle aspettative.

Implicazioni per il self-hosted: sovranità, TCO e potere negoziale

Entriamo nel cuore della prospettiva AI-Radar. Le imprese che oggi valutano il self-hosted degli LLM lo fanno per un intreccio di ragioni: sovranità dei dati, controllo sui costi operativi a regime, conformità normativa e, in alcuni casi, necessità di evitare colli di bottiglia nella capacità dei cloud pubblici. Finora, progettare un cluster on-premise per l’inference di modelli open source ha significato, nella stragrande maggioranza dei casi, dimensionare l’acquisto attorno a GPU NVIDIA. Non per un dogma tecnicico, ma perché i team interni conoscono CUDA e perché l’ecosistema di tooling e supporto è più prevedibile.

L’operazione AMD-Anthropic introduce una variabile nuova nel calcolo del TCO. Il costo di acquisto delle GPU è solo una voce: ci sono licenze software, ore di ingegneria per l’integrazione, costi di raffreddamento e alimentazione, e soprattutto il costo di lock-in verso un unico fornitore. Storicamente, il peso negoziale di chi progetta data center AI è stato limitato proprio dalla mancanza di un’alternativa credibile. Se ROCm continua a maturare, le aziende potranno mettere in competizione i fornitori non solo sul prezzo per scheda, ma sull’intera architettura di deployment. Non è fantascienza: nel mercato dei server enterprise tradizionali, la competizione tra Intel e AMD ha prodotto dinamiche simili per anni.

C’è un ulteriore vantaggio strutturale per il self-hosted: la possibilità di adottare una postura multi-architettura. Anziché legare l’intero parco hardware a un unico vendor, si può pensare a pool di risorse differenziate: nodi NVIDIA per carichi che sfruttano librerie molto specifiche, nodi AMD per l’inference di modelli standardizzati o per il fine-tuning di routine. Questo approccio riduce il rischio di trovarsi scoperti se un fornitore modifica le condizioni di licenza o subisce ritardi nelle consegne. Implica però una maturità interna maggiore: bisogna formare i team su più stack, investire in tooling di orchestrazione agnostici rispetto al silicio, e accettare una complessità di gestione più alta.

Il trade-off è quindi chiaro: chi è disposto a investire nella diversificazione può ottenere un TCO più basso e una maggiore resilienza; chi cerca la via più semplice continuerà a preferire l’uniformità NVIDIA. L’arrivo di una fabbrica AI senza CUDA non cancella questa tensione, ma la rende una scelta strategica concreta anziché un vincolo subito.

L’effetto eco-sistema: ricerca, startup e modelli open source

La fabbrica AI di AMD e Anthropic non avrà impatto solo sui grandi hyperscaler. Uno degli effetti meno visibili ma potenzialmente più dirompenti riguarda l’intero ecosistema della ricerca indipendente e delle startup. Per anni, i laboratori universitari e le piccole aziende hanno evitato l’hardware AMD perché la soglia di ingresso software era troppo alta: non potendo dedicare risorse al kernel tuning, si affidavano a CUDA semplicemente perché «funziona subito». Se Anthropic dimostra che su MI300X si possono addestrare modelli frontier, l’effetto di traino è immediato: i ricercatori inizieranno a richiedere funding per cluster AMD, i fornitori di servizi cloud aggiungeranno istanze con Instinct, e i maintainer di librerie open source dedicheranno risorse al supporto ROCm.

Questo circuito virtuoso è già in parte visibile: framework come PyTorch hanno reso la scelta dell’hardware più trasparente, e la comunità open-source è naturalmente attratta da soluzioni che evitano lock-in proprietari. Per i modelli open source – Llama 3, Mistral, Qwen, Falcon – la disponibilità di un secondo ecosistema hardware maturo significa una platea di utenti più ampia e una sperimentazione più rapida. Non è un caso che diverse di queste organizzazioni abbiano iniziato a testare i loro modelli anche su GPU AMD.

Per le startup che costruiscono strumenti di MLOps, orchestrazione e monitoring, l’emergere di un ecosistema multi-architettura rappresenta un’opportunità di differenziazione: chi riuscirà a offrire una gestione unificata di cluster misti NVIDIA-AMD avrà un vantaggio competitivo. Allo stesso tempo, le startup che sviluppano modelli proprietari potranno valutare se spostare parte del training o dell’inference su hardware AMD per ridurre i costi, accelerando ulteriormente il ciclo di feedback.

Resta il punto dolente della formazione: la forza lavoro MLOps è oggi massicciamente formata su CUDA. Le università e i bootcamp dovranno integrare ROCm nei curricula, ma il processo richiederà tempo. Nel breve termine, la disponibilità di competenze potrebbe essere il vero collo di bottiglia per l’adozione diffusa, non l’hardware.

Cosa guardare da qui in avanti

L’annuncio è il punto di partenza, non il punto di arrivo. Per chi progetta infrastrutture on-premise, i prossimi trimestri saranno decisivi per separare il segnale dal rumore. Ci sono alcuni indicatori concreti da monitorare.

Primo, i benchmark indipendenti. Serviranno misurazioni comparative su carichi di lavoro reali – inference batch, fine-tuning di modelli da decine di miliardi di parametri, latenza su contesti lunghi – che vadano oltre i comunicati stampa. È probabile che emergeranno dai team di ricerca interni ad Anthropic, ma anche dalla comunità open-source che inizierà a pubblicare risultati su piattaforme come Hugging Face.

Secondo, lo sviluppo del software ROCm. La roadmap di AMD andrà osservata non solo per la copertura delle API, ma per l’integrazione con strumenti di orchestrazione come Kubernetes, Kubeflow, e con i sistemi di monitoring. Il supporto per librerie specifiche come FlashAttention o TensorRT-LLM (o loro equivalenti) sarà un segnale di maturità operativa.

Terzo, la risposta di NVIDIA. Il gigante di Santa Clara non starà a guardare. È prevedibile che acceleri il rilascio di librerie verticali, stringa accordi di esclusiva con alcuni hyperscaler, o aggiusti le politiche di prezzo per mantenere la quota di mercato. Anche la community software attorno a CUDA potrebbe ricevere investimenti aggiuntivi per rendere l’ecosistema ancora più integrato e difficile da abbandonare.

Quarto, l’adozione da parte di altre aziende di peso. Se entro un anno vedremo altri hyperscaler – o anche grandi imprese non tech – annunciare cluster su larga scala basati su MI300X per carichi AI, vorrà dire che la fabbrica di Anthropic ha prodotto gli effetti di traino sperati. In quel caso, il mercato entrerà in una nuova fase di competizione reale, con benefici tangibili per tutti i deployer, dai grandi cloud alle piccole istallazioni on-premise.