Samsung Electronics si prepara a comunicare uno dei balzi più netti della sua storia: gli analisti prevedono per il secondo trimestre un utile operativo intorno agli 86 trilioni di won (circa 56 miliardi di dollari), un valore che segnerebbe un moltiplicatore di 18 volte rispetto allo stesso periodo dell'anno scorso. È il terzo trimestre consecutivo da record, alimentato dalla corsa alle memorie necessarie per l'intelligenza artificiale.

La domanda di DRAM e NAND – componenti fondamentali per l'addestramento e l'inference dei modelli – sta vivendo una fase di surriscaldamento che si riflette direttamente sui prezzi. E questo ha implicazioni tutt'altro che marginali per chi progetta stack on-premise destinati ai Large Language Models.

L'effetto memoria: perché conta nel deployment locale

Quando si valuta un'infrastruttura self-hosted per LLM, l'attenzione cade spesso su GPU, VRAM e throughput. Ma il sistema di memoria che alimenta quei processori – dalla larghezza di banda della RAM agli storage NAND per il caching – rappresenta una voce di costo e un collo di bottiglia tecnico spesso sottovalutati. Il rialzo dei prezzi segnalato dagli analisti non è solo un indicatore finanziario: diventa una variabile da inserire nel calcolo del TCO di una server farm dedicata all'inference.

In uno scenario in cui la sovranità dei dati impone di mantenere i modelli in sede, ogni componente hardware acquistato incide sulla sostenibilità del progetto. Banchi di memoria più costosi e tempi di approvvigionamento allungati possono far slittare la messa in produzione o rendere meno competitivo il costo per token elaborato localmente rispetto a soluzioni cloud.

Un mercato che detta le regole dell'infrastruttura

Il ciclo della memoria non è nuovo, ma la velocità con cui il settore AI sta assorbendo la produzione è senza precedenti. Samsung, leader del segmento, ha visto salire le quotazioni parallelamente alla diffusione dei modelli sempre più grandi. Per i team che lavorano su pipeline di inference on-premise, questo significa dover aggiornare frequentemente i modelli di costo: il prezzo delle DRAM è diventato sensibile quasi quanto quello degli acceleratori.

Chi oggi pianifica un deployment locale deve quindi considerare non solo le specifiche tecniche – quantization, dimensione del context window – ma anche la volatilità di mercato che tocca le forniture di componenti di base. La notizia dell'utile record di Samsung, per quanto suoni come una celebrazione per gli azionisti, suona anche come un avvertimento per i decisori IT: l'AI mangia memoria, e quella memoria si paga cara.