Inferact punta alla commercializzazione di vLLM con un finanziamento di peso

Inferact, una nuova realtà nel panorama delle startup specializzate in inference, ha annunciato di aver raccolto ben 150 milioni di dollari in un round di finanziamento seed. L'operazione attribuisce alla società una valutazione di 800 milioni di dollari.

L'obiettivo dichiarato di Inferact è quello di commercializzare vLLM, una tecnicia presumibilmente legata all'ottimizzazione dell'inference per modelli linguistici di grandi dimensioni (LLM). Al momento, non sono disponibili ulteriori dettagli specifici sulla tecnicia o sui piani di commercializzazione.

Contesto generale sull'Inference

L'inference è una fase cruciale nell'utilizzo dei modelli di apprendimento automatico, in particolare dei modelli linguistici di grandi dimensioni (LLM). Ottimizzare l'inference significa ridurre i costi computazionali e migliorare la velocità di risposta, rendendo i modelli più accessibili e utilizzabili in applicazioni reali. Diverse startup e aziende stanno investendo in questo settore per sviluppare soluzioni innovative.