Samsung accelera con HBM4 per Nvidia e AMD

Samsung è in procinto di iniziare le spedizioni della sua nuova memoria HBM4 a Nvidia e AMD a partire da febbraio. Questa mossa strategica posiziona Samsung come fornitore chiave per le aziende leader nel settore delle GPU e dei processori.

La memoria HBM (High Bandwidth Memory) è una componente fondamentale per accelerare le prestazioni nei sistemi di calcolo ad alte prestazioni, in particolare per carichi di lavoro che richiedono un'elevata larghezza di banda di memoria, come l'inference di modelli di linguaggio di grandi dimensioni (LLM) e l'addestramento di reti neurali complesse. L'HBM4 rappresenta l'ultima evoluzione di questa tecnicia, promettendo miglioramenti significativi in termini di velocità e capacità rispetto alle generazioni precedenti.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.