La cifra fa girare la testa: 712,5 miliardi di dollari. Non è il budget annuale di un cloud provider, ma il nuovo piano di investimento che SK hynix ha appena dettagliato per le sue operazioni in Corea del Sud. Due i poli produttivi su cui si concentrerà la spinta: l’espansione degli impianti NAND a Cheongju e il nascente Yongin Semiconductor Cluster, che sarà dedicato alle memorie DRAM. Un annuncio che pesa come un macigno sulle strategie di approvvigionamento di chiunque lavori con carichi di intelligenza artificiale, perché senza memoria, nessun LLM può funzionare.

Perché la memoria è diventata il vero collo di bottiglia dell’AI

Da quando i Large Language Models hanno iniziato a divorare terabyte di VRAM per l’inference e il fine-tuning, la disponibilità di chip di memoria ad alta velocità è diventata una variabile critica. Non si tratta solo di avere GPU con abbastanza VRAM a bordo: la banda passante, la latenza e la densità dei moduli DRAM determinano quanti token al secondo può davvero processare un nodo on-premise. E per i carichi più pesanti – si pensi a un modello da 70 miliardi di parametri servito su hardware self-hosted – la differenza tra un’infrastruttura ben dimensionata e una sottodimensionata la fa spesso proprio la memoria.

SK hynix in questo scacchiere gioca un ruolo da protagonista: è uno dei due soli fornitori globali di HBM (High Bandwidth Memory), la memoria impilata che equipaggia gli acceleratori più potenti, inclusi i chip NVIDIA H100 e le generazioni successive. Il nuovo cluster di Yongin, pensato per scalare la produzione di DRAM avanzate, arriva in un momento in cui la pipeline di domanda per HBM è sotto pressione e i tempi di consegna si allungano. Per un’organizzazione che sta valutando il deployment locale di un cluster AI, avere certezze sulla filiera della memoria significa poter pianificare CapEx e tempi di rollout senza brutte sorprese.

L’impatto sul Total Cost of Ownership di un cluster on-premise

In un’analisi di TCO on-premise, la memoria incide in modo meno appariscente delle GPU ma altrettanto profondo. Non basta comprare le schede top di gamma: serve che l’intero stack – dal controller di memoria ai bus di interconnessione – sia bilanciato per sostenere il throughput richiesto. Se il mercato della DRAM si restringe, i prezzi salgono e chi gestisce un parco macchine self-hosted si trova a dover rinegoziare preventivi o, peggio, a posticipare l’espansione. L’investimento di SK hynix, con la sua portata decennale, segnala una direzione opposta: si scommette su un eccesso di offerta futura, che per gli acquirenti enterprise potrebbe tradursi in margini di manovra più ampi e lead time più prevedibili.

C’è poi un risvolto meno evidente ma cruciale: l’espansione delle fabbriche NAND a Cheongju. Sebbene le NAND flash non abbiano la stessa visibilità mediatica delle DRAM, sono essenziali per lo storage ad alte prestazioni che alimenta data pipeline e caching nei nodi AI. Un abbondante flusso di NAND enterprise-grade può ridurre il costo per terabyte degli storage server, un fattore non secondario quando si gestiscono dataset da centinaia di gigabyte da pre-processare prima di ogni sessione di training.

Cosa osservare nei prossimi mesi

L’entità dell’investimento – 712,5 miliardi di dollari spalmati su più anni – suggerisce che SK hynix stia leggendo nei segnali di mercato un’adozione di massa dell’AI ben superiore alle stime attuali. Per chi ha la responsabilità di decidere se portare l’inference in casa o restare in cloud, notizie come questa sono indicatori anticipati su costi e disponibilità hardware. Il Yongin Cluster non produrrà volumi significativi prima di diversi trimestri, ma già oggi dice che la partita per la sovranità dei dati e il controllo dell’infrastruttura si gioca a monte, nella capacità produttiva dei semiconduttori di memoria.