SambaNova Systems, guidata dal CEO e co-fondatore Rodrigo Liang, ha annunciato un nuovo chip per l'inference AI che si propone come alternativa più performante rispetto alle soluzioni di Nvidia, in particolare il modello B200. L'azienda dichiara un incremento di velocità fino a cinque volte superiore.

Parallelamente, SambaNova ha ottenuto un finanziamento di 350 milioni di dollari. Questi capitali saranno destinati a sostenere le attività di ricerca e sviluppo, oltre che a potenziare la capacità di commercializzazione del nuovo chip e delle altre soluzioni AI offerte dall'azienda.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.