Il titolo è asciutto ma chirurgico: Samsung allarga la sua partita memoria per la futura architettura Nvidia Vera Rubin con un enterprise SSD su bus PCIe 6.0. Nessun benchmark, nessuna scheda tecnica trapelata. Eppure la notizia, per chi lavora sul deployment fisico dei modelli, è più densa di conseguenze di quanto sembri.
Per capirlo, bisogna guardare a come sta cambiando il posto dello storage nella pila AI. Fino a ieri, un SSD veloce serviva a caricare il modello in VRAM un po’ più in fretta. Oggi, con i modelli da centinaia di miliardi di parametri e le architetture a esperti (MoE), il confine tra memoria e storage si assottiglia. I chip non bastano mai, e la VRAM è una risorsa tiranna: o la paghi a peso d’oro sulle GPU, o trovi modi per barare senza uccidere la latenza.
L’eSSD PCIe 6.0 di Samsung entra proprio in questo varco. Raddoppiando la banda rispetto alla generazione 5.0, trasforma l’unità di archiviazione in un tier di memoria utilizzabile per lo swapping di layer, il caching di pesi, il checkpointing istantaneo. In pratica, permette a un server di tenere in VRAM solo lo stretto necessario e recuperare il resto da storage quasi in tempo reale. Non è fantasia: già oggi tecniche come il memory mapping e l’offloading parziale vengono usate per far girare LLM su hardware consumer o su server con poche GPU. Ma qui si passa da un trucco a un meccanismo progettato a monte, con la benedizione di Nvidia e il coinvolgimento di un gigante come Samsung.
Questa integrazione segnala un’inversione di incentivi. Finora il dogma era: più VRAM, più velocità, più GPU. Ma per le aziende che valutano deployment on-premise – banche, manifattura, sanità – la moltiplicazione delle schede significa CapEx insostenibile e consumi fuori scala. Se invece la piattaforma Vera Rubin, con i suoi eSSD PCIe 6.0, consente di eseguire modelli grandi su un numero ridotto di GPU compensando con storage a basso costo, il TCO si rimette in carreggiata. E con esso la sovranità dei dati: meno GPU non significa rinunciare alla potenza, ma poterla esercitare dentro i propri confini fisici senza dover migrare su cloud.
C’è un secondo effetto, più strutturale. Samsung, leader nelle memorie, non sta solo vendendo un componente: sta dettando un pezzo del ritmo dell’innovazione AI. La sua mossa costringe i concorrenti del flash storage (Kioxia, Micron, Solidigm) a inseguire sullo stesso terreno, e al contempo dice a Nvidia: possiamo fornirti il pezzo mancante per rendere credibile l’inference on-premise senza bisogno di armadi pieni di A100 o H100. In un momento in cui la domanda di GPU è drogata da attese e strozzature di offerta, creare un percorso alternativo – o meglio, complementare – che riduca la fame di VRAM è una leva di mercato potente.
Ovviamente, restano incognite: latenza reale, code path software, maturità dei driver. Ma la direzione è chiara e, per chi scrive, irreversibile. L’architettura dei server AI sta mutando in un sistema a più livelli di memoria, esattamente come è accaduto trent’anni fa con le cache. Lo storage PCIe 6.0 non è l’ultima ruota del carro: è il nuovo middle tier, e Samsung sembra averlo capito prima che la gara si scaldi davvero.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!