Intel continua a investire nell'ottimizzazione delle proprie schede grafiche Arc per carichi di lavoro di intelligenza artificiale. L'ultima versione di LLM Scaler Omni introduce miglioramenti significativi per ComfyUI e SGLang, due framework popolari utilizzati per la generazione di contenuti multimediali.

Dettagli dell'aggiornamento

L'aggiornamento di LLM Scaler Omni si concentra sull'ottimizzazione dell'ambiente per la generazione di immagini, voce e video, sfruttando le modalità Omni Studio e Omni Serving. Questo aggiornamento segue il rilascio della scorsa settimana di Intel LLM-Scaler-vLLM, che mirava a migliorare l'utilizzo di vLLM sulle GPU Intel Arc.

Le consegne di Intel mirano a fornire agli sviluppatori strumenti sempre più efficienti per sfruttare la potenza delle proprie GPU nell'ambito dell'intelligenza artificiale generativa. L'azienda si sta concentrando sullo sviluppo di soluzioni software che consentano di accelerare l'inferenza di modelli di linguaggio di grandi dimensioni (LLM) su hardware Intel.