Per decenni, il mercato delle memorie è stato la parte più noiosa dell'industria dei semiconduttori. DRAM e NAND flash si comportavano come qualsiasi altra commodity: i prezzi scendevano con la maturità dei processi produttivi, interrotti solo da cicli di boom e contrazione prevedibili. Oggi quella regola non vale più. La corsa all'intelligenza artificiale ha creato una distorsione senza precedenti, e il conto rischia di essere salato.

Il motivo è che i carichi di lavoro legati agli LLM e al training di modelli hanno fame di banda: le GPU più potenti si appoggiano a memorie ad alta larghezza di banda (HBM), stack di DRAM impilati verticalmente che offrono throughput estremi a scapito di costi e complessità produttiva. La domanda di queste memorie è esplosa, spingendo i produttori a destinare quote crescenti della capacità produttiva a un segmento che fino a pochi anni fa era di nicchia. Il risultato è che i prezzi, invece di calare, stanno salendo.

La strozzatura non si risolverà rapidamente. Costruire nuove linee per HBM richiede investimenti miliardari e anni di lavoro; le stime parlano di un alleggerimento solo a partire dal 2028. Nel frattempo, la corsa all'accaparramento da parte dei grandi fornitori cloud sta assorbendo la maggior parte della produzione, lasciando poco spazio agli altri attori del mercato.

Per chi sta valutando un deployment on-premise di infrastrutture AI, lo scenario ha implicazioni dirette. Il costo dei nodi equipaggiati con GPU di ultima generazione lievita, rendendo più difficile giustificare il Total Cost of Ownership (TCO) rispetto al cloud per carichi di lavoro intermittenti o sperimentali. Le organizzazioni che per motivi di sovranità dei dati o latenza devono mantenere l'inference in sede si trovano a dover fare i conti con tempi di attesa più lunghi e budget più alti. Alcune stanno rivalutando l'uso di modelli più piccoli, quantizzati, che possono girare su hardware meno esigente in termini di memoria.

C'è però un secondo effetto, meno visibile ma strutturale. L'attuale ciclo di investimenti sta ampliando una forbice pericolosa tra la capacità produttiva dedicata alle memorie AI e quella per le DRAM standard. Se la domanda di HBM dovesse rallentare — ad esempio perché l'adozione dell'AI generativa non mantiene le aspettative di crescita, o perché nuove architetture riducono il fabbisogno di banda — i produttori si troverebbero con un eccesso di capacità costosa. Il mercato delle memorie, storicamente ciclico, ha già vissuto crolli violenti; questa volta la sbornia potrebbe essere amplificata dalla concentrazione degli investimenti su un solo segmento.

L'anomalia del mercato delle memorie è quindi uno specchio della fase speculativa che l'industria AI sta attraversando. Il segnale per chi progetta infrastrutture on-premise è chiaro: la pianificazione della capacità deve tenere conto di una volatilità dei prezzi che non ha precedenti recenti, e la flessibilità architetturale — dalla scelta del livello di quantization alla possibilità di spostare parte dei carichi su cloud — diventerà un fattore competitivo.