SambaNova ha presentato il suo ultimo acceleratore di intelligenza artificiale, l'SN50. L'azienda afferma che il nuovo chip offre un'efficienza energetica tre volte superiore rispetto alla GPU Nvidia B200.

Collaborazione con Intel

Parallelamente all'annuncio dell'SN50, SambaNova ha stretto una partnership con Intel per integrare le CPU Xeon nei suoi sistemi. L'obiettivo รจ sfruttare le CPU di Intel per gestire i carichi di lavoro di inference e quelli basati su agenti, complementando le capacitร  di accelerazione AI dell'SN50.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.