Intel LLM-Scaler: supporto esteso per modelli Qwen

Approfondisci su LLM On-Premise

Guida completa per eseguire modelli AI in locale: hardware, stack e privacy.

Intel LLM-Scaler: vLLM 0.14.0-b8.2 introduce il supporto per Arc Pro B70

L'iniziativa Intel LLM-Scaler prosegue con l'aggiornamento vLLM 0.14.0-b8.2. Questa versione introduce il supporto ufficiale per la scheda grafica Arc Pro B70,

Intel potenzia LLM-Scaler-vLLM con supporto esteso ai modelli linguistici

Intel ha aggiornato LLM-Scaler-vLLM, un'iniziativa open source nata dal Project Battlematrix. Questo strumento, basato su Docker, facilita la distribuzione di c

Intel llm-scaler-vllm PV 1.4: il nuovo stack Docker per vLLM su Arc Graphics

Intel ha rilasciato la versione 1.4 del suo stack software llm-scaler-vllm PV, disponibile come build Docker. Questa soluzione è progettata per ottimizzare l'es

Intel LLM-Scaler-Omni: miglioramenti per ComfyUI e SGLang su Arc Graphics

Intel ha rilasciato un aggiornamento per LLM Scaler Omni, focalizzato sulla generazione di immagini, audio e video tramite Omni Studio e Omni Serving. Questa re

LLM Locali: cresce l'attesa per modelli da 9B e 35B parametri

La community open source focalizzata sull'esecuzione di modelli linguistici di grandi dimensioni (LLM) in locale, tramite l'iniziativa LocalLLaMA, discute attiv

GNOME ora ha un assistente AI che genera immagini: Newelle 1.4.5

Meno sincronizzazioni CUDA in llama.cpp: guadagni prestazionali per l'inference on-prem

DeepSeek V4 Flash e MiniMax M3 su llama.cpp: a che punto è il supporto nativo?

llama.cpp: il tensor parallelism su Vulkan ora è alla portata di tutti

Un veterano del software costruisce un harness locale per LLM e chiede alla community: cosa serve?

Patronus AI si fa 50 milioni per il crash test degli agenti AI