RadixArk: una nuova realtà nell'inferenza

SGLang, un progetto di ricerca open-source originato presso il laboratorio UC Berkeley di Ion Stoica, ha dato vita a RadixArk. L'operazione è stata finanziata da Accel e ha portato a una valutazione di 400 milioni di dollari per la nuova società.

Questo spin-out avviene in un periodo di notevole crescita del mercato dell'inferenza, un settore chiave per lo sviluppo e l'implementazione di modelli di intelligenza artificiale. La capacità di eseguire inferenze in modo efficiente è diventata sempre più cruciale con l'aumento della complessità dei modelli e della quantità di dati da elaborare.

Il contesto del mercato dell'inferenza

Il mercato dell'inferenza è in rapida espansione, trainato dalla crescente adozione di applicazioni di intelligenza artificiale in vari settori. Aziende di ogni dimensione stanno investendo in soluzioni di inferenza per migliorare i propri prodotti e servizi, automatizzare processi e ottenere nuove informazioni dai dati. Questo ha portato a una forte domanda di strumenti e piattaforme che semplifichino e ottimizzino il processo di inferenza.