Samsung Electronics ha chiuso il secondo trimestre con un’impennata dell’utile operativo, trainata da una domanda di memorie per l’intelligenza artificiale che non accenna a rallentare. Non è una sorpresa per chi osserva il mercato dell’hardware: i chip HBM (High Bandwidth Memory) sono diventati il collo di bottiglia più prezioso per l’addestramento e l’inference dei modelli linguistici di grandi dimensioni, e Samsung, primo produttore mondiale di memorie, è in prima linea.

Il dato mette a fuoco una dinamica che va oltre i bilanci societari. La fame di HBM3, le memorie impilate che affiancano le GPU nei data center, sta ridisegnando l’intera filiera dei semiconduttori. Aziende come NVIDIA, che con le sue GPU A100 e H100 assorbe quote enormi di questa produzione, spingono la capacità produttiva al limite. Il risultato è un mercato dove la disponibilità di memoria condiziona direttamente la potenza di calcolo accessibile a chi sviluppa e serve modelli.

Il nodo della larghezza di banda

Per i team che gestiscono LLM on-premise, il boom delle memorie AI è un segnale strutturale, non congiunturale. La larghezza di banda della memoria è il fattore che più di ogni altro determina la velocità di inference, specialmente quando si lavora con modelli da decine di miliardi di parametri senza quantization aggressiva. In uno stack self-hosted, ogni gigabyte di HBM installato sulla GPU incide sul TCO (TCO) in modo più che proporzionale, perché la memoria non è un componente facilmente sostituibile: è integrata nel package dell’acceleratore e ne definisce il prezzo finale.

L’impennata degli utili di Samsung fotografa proprio questo snodo: il valore si concentra a monte, su chi produce la memoria, mentre a valle chi compra server per deployment locali si trova a fare i conti con listini in tensione e tempi di consegna che si allungano. Non si tratta solo di CapEx: la disponibilità intermittente di schede con configurazioni di memoria adeguate può ritardare l’intera pipeline di messa in produzione, vanificando i risparmi sperati rispetto al cloud.

Sovranità e costi: un trade-off che si fa più aspro

L’attuale sovraccarico della domanda di memorie per AI mette ancora più in luce il dilemma di chi persegue la sovranità dei dati. Da un lato, le normative europee e le policy aziendali spingono verso architetture on-premise o air-gapped, dove i dati sensibili non escano dal perimetro di controllo. Dall’altro, la componente hardware — con le memorie HBM in cima alla lista dei costi — rende questi deployment sempre più onerosi. Se Samsung e gli altri produttori privilegiano volumi per i grandi hyperscaler, gli acquirenti di singoli nodi per laboratori o reparti R&D rischiano di essere marginalizzati, con opzioni limitate e prezzi fuori scala.

Non è un problema passeggero. La produzione di HBM richiede tecnicie di packaging avanzate e cicli produttivi dedicati, il che significa che ogni incremento di capacità per l’AI sottrae risorse alla produzione di DRAM convenzionale. Questo intreccio rischia di alzare il prezzo anche della memoria di sistema dei server, comprimendo ulteriormente i budget di chi allestisce infrastrutture locali.

L’esplosione degli utili Samsung, insomma, racconta di un mercato che sta premiando la specializzazione spinta, ma che al tempo stesso alza le barriere all’ingresso per l’ecosistema on-premise. Chi oggi valuta un deployment autogestito non può più considerare la memoria come una commodity: è diventata una variabile strategica, capace di dettare la fattibilità stessa di un progetto.