Huawei Atlas 350: un nuovo contendente nell'inference AI

Huawei ha annunciato l'Atlas 350, un acceleratore AI progettato per applicazioni di inference ad alte prestazioni. La scheda offre 1.56 PFLOPS di potenza di calcolo FP4 e integra fino a 112 GB di memoria HBM (High Bandwidth Memory).

Secondo Huawei, l'Atlas 350 surclassa l'Nvidia H20 di un fattore 2.8x in termini di performance. Questo posizionerebbe l'Atlas 350 come una valida alternativa per aziende che cercano soluzioni di inference AI ad alta efficienza.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti in dettaglio.