Nel panorama dell’intelligenza artificiale, la rincorsa alla potenza computazionale sembra non avere fine. Eppure, mentre i data center si riempiono di GPU con acceleratori tensoriali e VRAM a centinaia di gigabyte, c’è chi dedica attenzione a schede grafiche che hanno quasi un decennio sulle spalle. Timur Kristóf, ingegnere del team Linux di Valve, ha recentemente concentrato nuovi sforzi sui driver RADV (Vulkan) e RadeonSI (OpenGL) per correggere bug e migliorare le prestazioni delle GPU AMD basate sulle architetture GCN 1.0 e GCN 1.1.

Le GPU in questione – come le Radeon HD 7000 e le R9 290/390 – non possiedono core dedicati all’AI, né la potenza grezza per competere con una A100. Tuttavia, nell’ecosistema dell’inference locale, queste schede possono rivestire un ruolo inaspettato, specialmente per carichi di lavoro ridotti e in contesti dove la sovranità dei dati impone di non appoggiarsi a servizi cloud.

Perché riparare oggi schede di ieri?

L’architettura Graphics Core Next (GCN) fu introdotta da AMD nel 2011 e ha rappresentato un deciso passo avanti nel calcolo eterogeneo. Le prime generazioni, pur prive delle ottimizzazioni successive, offrono comunque un discreto numero di unità di calcolo in virgola mobile (FP32) e, grazie ai driver open source, possono interfacciarsi con framework moderni come llama.cpp, supportato da Vulkan compute via RADV. Kristóf sta sistemando problemi specifici legati alla gestione della memoria e alla sincronizzazione, correggendo regressioni che potrebbero compromettere l’esecuzione di shader complessi – e, per estensione, di workload di inference che sfruttano operazioni vettoriali.

Questo lavoro artigianale, che potrebbe apparire di nicchia, ha implicazioni dirette per chi gestisce infrastrutture on-premise. Immaginiamo un’azienda o un laboratorio che disponga di vecchie workstation con GPU AMD: invece di destinarle al macero, può trasformarle in nodi per inference di piccoli LLM quantizzati a 4 o 5 bit, che girano interamente in locale, senza costi API e senza far uscire i dati dal perimetro aziendale. I driver RADV e RadeonSI diventano il collante che consente a quel ferro di continuare a vivere nel 2025.

Inference on-premise e sovranità: il framework più ampio

AI-RADAR osserva da tempo come il movimento “self-hosted” stia spostando l’attenzione dal puro picco di prestazioni alla combinazione di TCO e controllo. Mantenere attivo il supporto per hardware datato significa allargare il parco macchine disponibile per l’inference locale, abbattendo la barriera d’ingresso. Non si tratta di sostituire le GPU moderne, ma di aggiungere tasselli: con la giusta quantization e modelli da pochi miliardi di parametri, una R9 390 con 8 GB di VRAM può restituire risposte accettabili per chatbot interni, riassunto di documenti o analisi semplici, il tutto sotto il pieno controllo dell’organizzazione.

Certo, ci sono limiti evidenti: latenza più alta, minore velocità in token/secondo, incompatibilità con FP16 veloce o con le estensioni tensor core. Ma in scenari dove l’isolamento dei dati è non negoziabile – si pensi a studi legali, sanità, difesa – anche un hardware “riciclato” diventa un asset strategico. La scelta non è binaria tra cloud e GPU ultimo grido; esiste una zona grigia popolata da tecnicia che, con la giusta manutenzione driver, può ancora dare valore.

Un segnale dalla comunità open source

Il caso di Kristóf è esemplare: un’azienda come Valve, attraverso il suo team Linux, investe risorse per mantenere in vita hardware che esula dalle logiche commerciali immediate. Questo approccio rafforza l’ecosistema open source e garantisce longevità a piattaforme che altrimenti sarebbero state abbandonate. Per chi oggi pianifica un deployment on-premise di LLM, è un promemoria del fatto che la scelta dell’hardware non si esaurisce al momento dell’acquisto: pesano anche il supporto software nel tempo e la possibilità di riconvertire le macchine quando diventano “obsolete” per altri compiti.

In definitiva, le patch per GCN 1.0/1.1 non faranno gridare al miracolo, ma raccontano una storia più grande: l’innovazione non viaggia solo sulla corsia di sorpasso delle GPU da decine di migliaia di euro. A volte, si nasconde nei driver di schede dimenticate, pronta a offrire una seconda chance a chi sa guardare oltre il nuovo sfavillante.