Il peso dei costi di memoria

L’ascesa dell’intelligenza artificiale ha riacceso la fame di memoria, portando a un’impennata dei prezzi che oggi penalizza anche i fornitori più solidi. CyberTAN, storico produttore taiwanese di apparati di rete, ne è un esempio: l’azienda sta cercando di ritagliarsi uno spazio nei nuovi mercati dell’AI e del Wi-Fi 7, ma si scontra con il costo elevato dei chip DRAM e HBM e con una domanda che stenta a decollare. Per chi opera nell’on-premise, la notizia è un campanello d’allarme: il costo della memoria, componente essenziale per server, GPU e apparati edge, sta diventando una voce dominante nel TCO, capace di rallentare o addirittura congelare progetti locali.

L’integrazione verticale tra AI e networking, su cui CyberTAN sta puntando, richiede hardware di nuova generazione: access point Wi-Fi 7 con capacità di calcolo per inference locale e appliance per il self-hosting di Large Language Models. In entrambi i casi, le specifiche di banda passante e capacità memoria sono stringenti. Il prezzo dell’HBM, in particolare, è schizzato alle stelle a causa della domanda concentrata delle GPU per data center, mentre le DDR5 hanno seguito una traiettoria simile, seppur meno esplosiva. Il risultato è un aumento del costo per scheda che erode i margini e rende più difficile per le aziende medio-piccole finanziare il passaggio al Wi-Fi 7 o a infrastrutture AI su scala locale.

Diversificazione rischiosa in un mercato in evoluzione

La strategia di CyberTAN riflette una tendenza diffusa: i produttori di apparati per reti cercano nell’AI una nuova area di crescita, spinti dal calo del mercato tradizionale e dalle opportunità offerte dall’inference distribuita. Il Wi-Fi 7, con latenze ridotte e throughput elevato, è il veicolo ideale per portare capacità di calcolo AI in prossimità degli utenti, in logica edge. Tuttavia, entrambi i mercati richiedono componenti costosi proprio quando le imprese sono più caute. La domanda debole di apparati di rete, segnalata dall’azienda, potrebbe essere sintomo di un rallentamento ciclico dopo due anni di investimenti spinti dal lavoro ibrido, oppure di una redistribuzione della spesa verso infrastrutture cloud.

Per un outsider come CyberTAN, l’alto prezzo delle memorie aggrava il divario con i concorrenti già affermati nell’AI. I grandi integratori possono negoziare contratti di fornitura a lungo termine o assorbire i costi in attesa di volumi. Un fornitore specializzato nel networking, invece, deve gestire BoM in crescita proprio quando il mercato non offre margini di trasferimento a valle. Il caso mostra come l’inflazione dei componenti possa fungere da filtro competitivo, rallentando l’innovazione attraverso il settore.

AI on-premise: il fattore memoria

Chi gestisce infrastrutture on-premise conosce bene il peso della memoria: per un server multi-GPU con 8 schede ad alta VRAM, il costo del solo HBM può superare il 40% del prezzo della macchina, e anche le configurazioni che sfruttano CPU con grandi capacità di RAM per l’inference di modelli quantizzati sono sensibili ai prezzi delle DDR5. In questo scenario, il TCO di un deployment locale diventa fortemente dipendente dal mercato dei semiconduttori, un fattore spesso trascurato nelle valutazioni finanziarie iniziali. L’aumento dei prezzi delle memorie non è un evento isolato: è prevedibile che la corsa all’AI mantenga tesa la domanda di HBM ancora per tutto il 2024 e oltre, influenzando le scelte di acquisto.

I framework analitici discussi su AI-RADAR (si veda la sezione /llm-onpremise) aiutano a mappare il trade-off tra CapEx iniziale e costo operativo: quando i prezzi della memoria salgono, il punto di pareggio rispetto al cloud si sposta in avanti, rendendo l’on-premise meno economico per carichi di lavoro intermittenti o scalabili. Tuttavia, la sovranità dei dati e i requisiti di latenza continuano a spingere molte organizzazioni verso soluzioni self-hosted. La scelta delle configurazioni hardware, dei livelli di quantization e della distribuzione dei modelli diventa allora critica per contenere il costo della memoria senza sacrificare le prestazioni.

Prospettive e scelte per chi investe in AI

La situazione di CyberTAN è emblematica di un passaggio più ampio: il costo della memoria è diventato un fattore di rischio strategico per l’intera filiera dell’AI, dall’hardware di consumo fino ai grandi cluster di training. I produttori di memorie stanno investendo in nuove linee per HBM4 e per l’espansione delle capacità DDR5, ma l’aggiustamento dal lato dell’offerta richiede tempo. Nel frattempo, la domanda di memoria per AI resterà sostenuta perché ogni nuovo modello tende a richiedere più parametri e quindi più VRAM per l’inference.

Per chi progetta architetture on-premise, questo significa che la pianificazione degli acquisti dovrà tenere conto della volatilità dei prezzi. Scelte come l’adozione di modelli più leggeri, il ricorso a inference distribuita su più nodi meno potenti o l’impiego di NPU dedicate possono ridurre la pressione sulla memoria, ma senza alterare la realtà di fondo: senza un controllo sui costi dei componenti, l’AI on-premise resterà una scommessa finanziaria. Il caso CyberTAN suggerisce che anche i fornitori consolidati dovranno ridefinire le proprie strategie, dando priorità a partnership e design modulari capaci di assorbire i picchi di prezzo senza fermare l’innovazione.