Nvidia Vera Rubin: i primi sample

Nvidia ha annunciato la disponibilità dei primi sample della sua GPU Vera Rubin. Questa nuova architettura combina una CPU a 88 core con GPU dotate di 288 GB di memoria HBM4.

La combinazione di CPU e GPU ad alta capacità di memoria è progettata per carichi di lavoro complessi, in particolare quelli legati all'intelligenza artificiale. L'ampiezza di banda offerta dalla memoria HBM4 dovrebbe consentire di migliorare significativamente le prestazioni.

Per chi valuta deployment on-premise, esistono trade-off in termini di costi iniziali (CapEx) e operativi (OpEx) da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.