SambaNova punta all'inference AI on-premise

SambaNova, azienda specializzata in infrastrutture per l'intelligenza artificiale, ha ottenuto un finanziamento di 350 milioni di dollari. L'obiettivo è accelerare lo sviluppo della sua architettura dataflow, posizionandola come valida alternativa ai sistemi basati su GPU, dominati da Nvidia.

La società afferma che la sua architettura di quinta generazione (RDU) è progettata per superare le prestazioni e ridurre i costi rispetto alle soluzioni Nvidia, in particolare la nuova architettura B200. Questo posizionamento strategico mira a intercettare la crescente domanda di soluzioni di inference AI efficienti e performanti, soprattutto in contesti on-premise dove il controllo dei dati e la sovranità sono prioritari.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.