I colli di bottiglia nella supply chain dell'AI non mollano la presa. Se fino a ieri il problema erano le GPU, oggi è la memoria a diventare il nuovo anello debole. Micron Technology ha lanciato un allarme preciso: la carenza di chip di memoria per carichi di intelligenza artificiale – in particolare HBM, il tipo di DRAM impilata che alimenta gli acceleratori più potenti – andrà ben oltre il 2027. Una previsione che arriva mentre l'azienda statunitense ha già blindato contratti con i propri clienti per un valore complessivo di 100 miliardi di dollari, segnalando una domanda che non accenna a rallentare.

Il ruolo della memoria nell'era dei LLM

Per chi progetta infrastrutture dedicate ai Large Language Models, la memoria non è un semplice componente accessorio. I workload di training e inference consumano quantità enormi di VRAM: ogni GPU deve ospitare pesi dei modelli, attivazioni e cache, e la larghezza di banda tra memoria e processore condiziona il throughput effettivo. L'High Bandwidth Memory (HBM) è diventata indispensabile per le schede di fascia alta proprio perché riduce il collo di bottiglia rispetto alle GDDR tradizionali. Senza volumi sufficienti di HBM, la capacità di calcolo installata resta inutilizzata o sottoutilizza.

Il dominio di mercato di produttori come SK Hynix, Samsung e Micron è quindi strategico: chi controlla la fornitura di memoria controlla di fatto la velocità con cui i data center possono crescere. E l'annuncio di Micron suggerisce che la produzione fatica a tenere il passo, nonostante gli investimenti miliardari.

Implicazioni per chi sceglie l'on-premise

Per le organizzazioni che valutano deployment on-premise o self-hosted di LLM, la notizia ha un peso specifico altissimo. La pianificazione di un cluster AI non si limita più a scegliere il modello giusto o a mettere in preventivo l'acquisto delle GPU: occorre assicurarsi l'intero stack, memoria inclusa. Le commesse da cento miliardi di dollari bloccate da Micron indicano che i grandi fornitori cloud e gli hyperscaler stanno già prenotando la quasi totalità della capacità produttiva. Chi arriva dopo – medie imprese, enti pubblici, laboratori di ricerca con vincoli di sovranità dei dati – rischia di rimanere a secco o di dover accettare prezzi fuori scala.

Dal punto di vista del Total Cost of Ownership (TCO), la scarsità di memoria si traduce in un aumento del CapEx e in tempi di attesa più lunghi. Non è solo questione di budget: i progetti di AI possono slittare di mesi, perdendo la finestra competitiva. Anche le strategie di fine-tuning e di serving locale vengono messe sotto pressione, perché senza hardware adeguato si è costretti a compromessi sulla qualità del modello o sulla latenza.

La risposta tecnica: quantization e modelli efficienti

Di fronte a uno scenario di fornitura tesa, molti team stanno accelerando l'adozione di tecniche di quantization e di modelli ottimizzati per consumare meno memoria. Portare un modello da FP16 a INT8 può dimezzare il footprint in VRAM, consentendo di girare su hardware meno esigente o di caricare contesti più ampi. È una strada promettente, ma introduce trade-off: la perdita di precisione può influire sulla coerenza delle risposte, e non tutti i modelli si prestano a compressioni aggressive senza un fine-tuning aggiuntivo.

Parallelamente, cresce l'interesse per architetture di inference distribuita, dove più nodi meno potenti condividono il carico, e per l'uso di CPU con estensioni AI che alleggeriscono la dipendenza dalle GPU. Resta il fatto che per il training su larga scala l'HBM è al momento insostituibile, e la previsione di Micron dice che la pressione non calerà a breve.

Oltre il 2027: ripensare la pianificazione

L'allarme lanciato da Micron è un campanello per chiunque stia disegnando roadmap AI a medio termine. La convergenza tra domanda esplosiva e capacità produttiva limitata suggerisce che le catene di fornitura resteranno fragili per anni, con effetti a cascata su prezzi e disponibilità. Le imprese che vogliono mantenere controllo sui dati e operare in ambienti air-gapped o con requisiti normativi stringenti devono includere questa variabile nei propri scenari di procurement.

Non si tratta più di scegliere tra cloud e on-premise in astratto: si tratta di capire se, quando e a quale costo sarà possibile portare fisicamente la potenza di calcolo all'interno dei propri confini. Per chi valuta deployment on-premise, esistono trade-off complessi tra vincoli di spesa, tempistiche di consegna e performance; AI-RADAR offre framework analitici per mappare queste variabili e per valutare l'impatto della supply chain sulle decisioni di architettura. La carenza di memoria per AI non è un incidente di percorso, ma un fattore strutturale con cui fare i conti.