La novità non sta solo nei numeri. AMD sta costruendo le condizioni per rendere le GPU integrate delle piattaforme Ryzen un punto di esecuzione credibile per l'inference LLM, non un ripiego da usare quando manca una scheda discreta. Con Linux 7.4 entra in scena PerfOpt, una funzionalità che, secondo i benchmark citati dalla fonte, porta incrementi tra il 18 e il 23 per cento su diversi hardware Ryzen e Radeon, con i benefici più visibili proprio sulle configurazioni entry-level. Il messaggio di fondo è che il calcolo locale per i modelli linguistici non deve per forza passare da GPU con decine di gigabyte di VRAM dedicate.

Per chi lavora con LLM on-premise o su macchine da sviluppo, il vincolo non è quasi mai la pura potenza di calcolo: è la latenza di spostare i dati, la riservatezza dei prompt e il costo ricorrente delle API cloud. Le iGPU hanno sempre sofferto due limiti strutturali: condividono la memoria di sistema e non dispongono della banda di una GPU dedicata. Un'ottimizzazione a livello driver, come quella che PerfOpt promette, agisce su questi colli di bottiglia senza richiedere hardware nuovo. Non trasforma un portatile economico in un server da training, ma riduce la distanza tra 'proviamo il modello in locale' e 'conviene davvero farlo in produzione leggera'.

La partita si gioca sul TCO e sulla quantità di memoria realmente utilizzabile. Nei carichi LLM leggeri, la quantization e la dimensione del contesto contano più del numero di core grafici. Un incremento del 18-23 per cento su una iGPU può cambiare la soglia di accettabilità per un assistente locale, un classificatore di documenti o una pipeline di pre-processing che oggi finirebbe su un'istanza cloud. Il punto non è sostituire i server, ma spostare la linea di convenienza: più carichi possono restare sul dispositivo senza sacrificare la latenza e senza esporre i dati a terze parti.

Questo non è un dettaglio per hobbisti. È un segnale strutturale: il software di sistema sta diventando un fattore competitivo nell'AI locale. Le ottimizzazioni a basso livello, come quelle sui driver e sulla gestione della memoria condivisa, possono estrarre prestazioni da hardware che oggi viene considerato marginale. Chi costruisce stack self-hosted per ragioni di sovranità dei dati ha più margine per valutare macchine compatte e a basso consumo, riducendo il costo di ingresso e il consumo energetico rispetto a deploy basati su GPU discrete.

Per chi valuta deployment on-premise, esistono trade-off che vanno oltre il singolo benchmark: AI-RADAR offre framework analitici su /llm-onpremise per leggere questi scenari. La domanda aperta resta se un salto del 18-23 per cento basti a spostare i carichi di lavoro leggeri fuori dal cloud in modo stabile, o se serva un salto più ampio per rendere le iGPU davvero centrali nell'AI locale.