L’impennata della domanda di intelligenza artificiale generativa sta mettendo sotto pressione un componente silenzioso ma critico di ogni GPU potente: la memoria HBM (High Bandwidth Memory). Secondo le analisi di DIGITIMES, i prezzi delle banche di HBM potrebbero raddoppiare entro il 2027, spinti dalla miscela esplosiva tra volumi richiesti dall’AI e contratti di fornitura a lungo termine che stanno prosciugando il mercato spot. La notizia ha un impatto immediato su chiunque progetti di costruire o espandere un’infrastruttura di calcolo per LLM e training di modelli, specialmente in logiche on-premise o self-hosted.

L’HBM non è una memoria qualunque: sovrappone più strati di DRAM collegati a un interposer, offrendo bandwidth che superano quella delle tradizionali GDDR con un consumo energetico inferiore. È praticamente indispensabile per le GPU di fascia alta – dalle NVIDIA A100 alle H100, passando per le MI300X di AMD – dove il throughput dei dati verso i core Tensor e CUDA fa la differenza tra un training giorno e una settimana. Senza un’adeguata dotazione di HBM e la sua larghezza di banda, i modelli di fondazione rimangono confinati nella teoria.

Il raddoppio dei prezzi, se confermato, cambia il calcolo del TCO per le aziende che hanno scommesso sull’autonomia del deployment locale. Oggi un server con otto GPU H100 può costare oltre trecentomila euro; se la memoria si mangia una fetta ancora più grande del costo dei chip, il prezzo di accesso a un cluster on-premise diventa proibitivo per molte organizzazioni. Per i cloud provider non è un problema da poco, ma possono diluire l’aumento sui volumi e ribaltare parte dell’incremento sui clienti, mantenendo margini. L’on-premise puro, invece, paga l’intero scotto senza ammortizzatori.

Ma il movimento dei prezzi HBM è anche il segnale di una trasformazione più strutturale. La memoria ad alta banda sta diventando il collo di bottiglia di una catena di fornitura che rischia di ripetere lo schema delle GPU durante la pandemia cripto: domanda gonfiata, concentrazione di produttori (tre soli: SK Hynix, Samsung, Micron), scarsa trasparenza nei contratti di allocazione. L’hype sui LLM moltiplica la pressione: ogni nuovo chip per inference o training richiede più HBM, e i produttori di DRAM preferiscono firmare accordi pluriennali con NVIDIA o con gli hyperscaler, lasciando gli acquirenti minori alla finestra.

Le implicazioni di secondo ordine sono meno ovvie ma più profonde. Un aumento dei costi hardware di questa portata potrebbe accelerare la ricerca di soluzioni alternative che ridimensionino il fabbisogno di memoria. Tecniche di quantization aggressiva (INT8, INT4), architetture di modelli sparse, o persino compute-in-memory stanno guadagnando attenzione proprio perché promettono di fare di più con meno banda. L’inference su dispositivi edge, lontana dai datacenter, potrebbe beneficiare di un rinnovato interesse proprio quando i costi dell’infrastruttura centrale esplodono. In altre parole, l’aumento dell’HBM potrebbe innescare la prossima ondata di efficienza nel deployment AI, non solo a livello di software ma anche di progettazione dei chip.

Per chi segue le logiche di sovranità dati, il paradosso è evidente: la necessità di tenere i dati in casa spinge verso l’hardware on-premise, ma il costo dell’hardware sale proprio per colpa della stessa domanda di AI. Le banche HBM diventano quindi un indicatore geopolitico della corsa tecnicica: chi non ha accesso a volumi garantiti di memoria sarà costretto a scendere a compromessi, spostando workload sensibili su cloud o rinunciando a modelli di ultima generazione.

In definitiva, il raddoppio dei prezzi HBM non è solo una brutta notizia per i budget IT: è il riflesso di un mercato in cui la supply chain dell’AI detta le regole del gioco. Le organizzazioni dovranno decidere se accettare questa dipendenza o investire in percorsi tecnicici meno affamati di memoria. La partita, insomma, non si gioca più solo sui petaFLOPS, ma anche sui gigabyte al secondo che li alimentano.