La notizia è asciutta: Intel ha rilasciato la versione 0.21.0-b1 di Intel-Scaler-vLLM, il suo ambiente Docker che ottimizza il serving framework vLLM per le GPU Arc e Arc Pro. Ma è proprio la secchezza del comunicato a rendere la mossa interessante: Intel non sta più solo testando il terreno dell’AI inference, sta costruendo mattoni software che rendono le sue schede un’alternativa concreta in un panorama dominato da Nvidia.

vLLM, fino a poco tempo fa, era quasi sinonimo di GPU Nvidia. Il progetto open source ha cambiato le regole del serving, introducendo tecniche come il PagedAttention e la gestione dinamica dei batch per accelerare l’inference di LLM. Ma il supporto per hardware non-Nvidia è stato a lungo sperimentale o limitato. L’arrivo di uno stack ottimizzato ufficialmente da Intel ribalta la prospettiva: un’azienda che possiede già macchine con GPU Arc – magari in contesti di edge computing o in server departmental – può ora valutare di far girare modelli linguistici senza dover acquistare hardware dedicato Nvidia.

Il punto non è se una Arc A770 possa battere una RTX 4090: non è questa la contesa. Il vero confronto è sul TCO in scenari di deployment on-premise. Ambienti dove la sovranità dei dati impone che l’elaborazione resti confinata in azienda – banche, sanitari, pubblica amministrazione – spesso non necessitano di throughput da data center cloud. Qui una GPU discreta da 16 GB di VRAM, capace di eseguire modelli quantizzati o dimensioni contenute con latenze accettabili, può essere perfettamente adeguata. E costa molto meno di una workstation Nvidia di fascia alta, senza contare i vantaggi della diversificazione del fornitore.

Intel sta copiando una pagina dal suo stesso playbook per il mercato dei processori: non attaccare sul picco di performance assoluto, ma offrire un ecosistema aperto e capiente, con strumenti software maturi. Lo ha fatto con oneAPI, lo sta facendo con le librerie per l’AI. E ogni pezzo di software ottimizzato – come questo aggiornamento di vLLM – riduce l’attrito per gli sviluppatori e gli amministratori di sistema che devono giustificare le scelte hardware al CFO.

C’è però un’implicazione di terzo ordine che va oltre il semplice risparmio. Se Intel riesce a costruire una base installata di sviluppatori che usano Arc per prototipazione e servizio di LLM, il baricentro del software per inference si sposta lentamente verso l’agnosticità hardware. Questo erode il fossato di Nvidia, costruito su CUDA, e premia la tendenza dei framework – vLLM, llama.cpp, TensorFlow Lite – a diventare sempre più portabili. In un futuro non lontano, la decisione su quale GPU acquistare potrebbe non dipendere più dalla compatibilità software, ma da un puro calcolo di costo per token. E in quel mondo, Intel può giocare le sue carte con volumi e integrazione verticale.

Resta da vedere come le soluzioni Intel reggeranno il confronto su modelli più grandi o su carichi di lavoro sostenuti. Ma versioni precedenti di Intel-Scaler-vLLM avevano già mostrato miglioramenti nella latenza e nell’utilizzo della VRAM. Questa release, con gli ultimi aggiornamenti di vLLM, potrebbe ridurre ulteriormente il gap. La vera prova sarà nei benchmark condotti da terze parti, non nei comunicati stampa. Tuttavia, per chi valuta oggi un deployment on-premise di LLM e vuole evitare il lock-in su un singolo vendor, sapere che vLLM gira con supporto ufficiale su silicon Intel è un segnale che la maturità è più vicina di quanto si pensasse.