L’allarme è arrivato direttamente dalla presentazione dei risultati annuali di Currys, la più grande catena britannica di elettronica di consumo. «I prezzi di telefoni, laptop e televisori aumenteranno entro la fine dell'anno», ha dichiarato l’amministratore delegato Alex Baldock, puntando il dito contro la crescente domanda di memoria da parte dell’industria dell’intelligenza artificiale. Non è un fenomeno nuovo: da mesi gli analisti parlano di “AI memory squeeze”, la stretta sulle forniture di DRAM e memorie ad alta larghezza di banda (HBM) provocata dal fabbisogno insaziabile dei data center. Ora quella tensione sta per riversarsi sugli scaffali.

La radice del problema sta nell’enorme quantità di memoria che i chip per l’addestramento e l’inference dei modelli di linguaggio richiedono. Le GPU di ultima generazione, indispensabili per gestire LLM con miliardi di parametri, integrano HBM di tipo HBM2e o HBM3, la stessa tecnicia contesa anche da server, smartphone e console. Quando la produzione mondiale di silicio viene dirottata verso questi componenti ad alto margine, i volumi disponibili per la memoria dei dispositivi consumer si riducono, e i costi salgono a cascata. Il segnale di Currys non è isolato: è il termometro di una frizione globale tra due mondi che competono per le stesse risorse.

Per chi sviluppa e gestisce infrastrutture di AI lontano dai cloud pubblici, la notizia ha un sapore agrodolce. I deployment on-premise – che permettono di mantenere sovranità sui dati, ridurre la latenza e controllare il costo totale di possesso sul lungo periodo – dipendono in modo critico dalla disponibilità di hardware con VRAM generosa. Il rincaro dei moduli di memoria si traduce in un incremento diretto della spesa in conto capitale (CapEx) per server equipaggiati con GPU, già schizzati di prezzo negli ultimi due anni. E allunga i tempi di approvvigionamento, costringendo i team a rivedere roadmap e aspettative.

Non è soltanto una questione di portafoglio. La tensione sulle memorie spinge a riflettere sugli approcci alternativi per l’inference e il fine-tuning. Modelli più piccoli ma addestrati con cura, tecniche di quantization che riducono il footprint in VRAM, architetture che distribuiscono il carico su più nodi con memorie meno costose: tutte strade che guadagnano attenzione quando l’hardware di fascia alta scarseggia. In questo scenario, le scelte di design del sistema diventano parte integrante della strategia di procurement, e non solo un dettaglio tecnico.

Certo, una parte della domanda di memoria è generata da servizi cloud che, a loro volta, subiscono la stessa pressione. Ma per le organizzazioni che hanno già optato per un’infrastruttura self-hosted, o che valutano il passaggio dal noleggio al possesso, il messaggio è chiaro: il costo dei componenti non è un dato di partenza stabile, e il time-to-market può allungarsi proprio mentre l’urgenza dell’AI cresce. AI-RADAR dedica spazio a questi trade-off nella sezione dedicata ai framework di analisi per i deployment on-premise, dove si confrontano scenari diversi senza promettere soluzioni facili.

La reazione della grande distribuzione è un campanello d’allarme anche per le piccole e medie imprese che stanno costruendo i primi prototipi locali. Se l’hardware consumer diventa più caro, quello enterprise segue la stessa curva, spesso con un moltiplicatore. La forbice tra chi può permettersi cluster di GPU e chi deve accontentarsi di soluzioni ridotte rischia di allargarsi, con ricadute sulla capacità di innovazione diffusa. In un momento in cui la corsa agli LLM è aperta, la memoria – in tutti i sensi – potrebbe diventare la risorsa più contesa del 2024.