AMD ha alzato il sipario su Helios, il suo primo sistema AI disegnato attorno a un intero rack: 72 acceleratori Instinct MI455X, 31 terabyte di memoria HBM4 e una potenza di calcolo in virgola mobile a 4 bit dichiarata a 2,9 exaflops.

Diciotto vassoi di calcolo, ciascuno con quattro GPU basate sulla nuova architettura CDNA 5, compongono un blocco che nasce con un obiettivo preciso: sfidare il Nvidia Vera Rubin NVL72. Non si tratta di una scheda, ma di un’unità di calcolo pre-assemblata che segna il punto d’arrivo di una traiettoria ormai evidente: l’industria sta ridefinendo il «nodo» elementare per l’addestramento e l’inference come un rack densamente interconnesso, non più come un singolo server con una manciata di GPU.

La posta in gioco va oltre la rincorsa tecnicica fra i due produttori. Helios dice qualcosa di più profondo a chi valuta deployment on-premise di grandi modelli linguistici. Nvidia ha dominato questa fascia con soluzioni come le piattaforme HGX e DGX, costruendo un ecosistema che di fatto trasformava il bisogno di GPU in una scelta quasi obbligata. L’ingresso di AMD, con un’offerta integrata e una dotazione di memoria che riduce il gap con le alternative verdi, comincia a scalfire quella rendita di posizione. Per laboratori di ricerca, aziende regolamentate e fornitori di servizi che vogliono tenere in casa sia i dati sia l’hardware, avere almeno due fornitori credibili sulla scala del rack cambia i termini della contrattazione e, soprattutto, la pianificazione delle infrastrutture.

L’abbondanza di HBM4 — oltre 430 gigabyte di banda larga per ogni GPU, considerando la cifra complessiva — è il vero snodo. Con carichi come l’inference su modelli da centinaia di miliardi di parametri, la capacità di mantenere pesi e cache in memoria veloce senza ricorrere a complesse strategie di distribuzione su più nodi separati è il fattore che fa la differenza fra latenze accettabili e colli di bottiglia permanenti. Una densità simile, racchiusa in un rack convenzionale, abbassa anche la complessità di raffreddamento e di alimentazione rispetto a configurazioni fai-da-te con più chassis slegati. Per chi ha già esperienza di self-hosting, il messaggio è chiaro: il rack sta diventando l’atomo di calcolo, non il server.

C’è poi un segnale strategico che riguarda il ruolo del software. AMD ha storicamente sofferto il confronto con CUDA, eppure l’enfasi sugli ecosistemi aperti come ROCm e il supporto crescente dei principali framework di inference — da vLLM a TensorRT-LLM con backend alternativi — stanno riducendo l’attrito. Il fatto che Helios arrivi con CDNA 5, progettata per accelerare nativamente i carichi di trasformatori e le operazioni a bassa precisione, lascia intendere che AMD non vuole solo vendere silicio grezzo, ma fornire un sistema pronto per l’inference production, dove il throughput per watt e la densità di memoria sono metriche decisive.

A trarne vantaggio non sono solo gli hyperscaler. Anche realtà più piccole, che finora hanno rinunciato a gestire in proprio modelli di grandi dimensioni per mancanza di alternative a Nvidia, potrebbero rivedere i propri calcoli di TCO. Senza dimenticare che la sovranità digitale spinge governi e settori critici a cercare stack hardware diversificati, magari combinando fornitori diversi in cluster dedicati. Helios non riscrive le regole da un giorno all’altro, ma accelera l’idea che la competizione a livello di rack sia ormai un fatto, e non più una possibilità remota.