SAIMEMORY, una società sostenuta da SoftBank, sta esplorando nuove architetture di memoria verticale come potenziale successore alle memorie High Bandwidth Memory (HBM). Questa transizione potrebbe portare a miglioramenti significativi in termini di densità, larghezza di banda e consumo energetico, aspetti cruciali per le applicazioni di intelligenza artificiale e high-performance computing.

Implicazioni per il settore

L'adozione di memorie verticali potrebbe rivoluzionare il modo in cui i dati vengono gestiti e accelerati nei sistemi di calcolo. Le memorie HBM sono attualmente lo standard per molte applicazioni che richiedono elevate prestazioni di memoria, ma presentano anche delle limitazioni in termini di scalabilità e costi. Una tecnicia alternativa potrebbe quindi aprire nuove opportunità per migliorare le prestazioni e ridurre il TCO dei sistemi.

Considerazioni sul deployment

Per chi valuta deployment on-premise, esistono trade-off tra le diverse tecnicie di memoria in termini di costi iniziali, consumi energetici e requisiti di raffreddamento. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti e prendere decisioni informate.