Un silicio di quattro anni fa che riappare in un sistema nuovo di zecca: AMD ha riportato in vita il Ryzen 7 4700LE, otto core Zen 2 che fino a ieri sembravano relegati al passato OEM, per inserirlo in un PC preassemblato da circa 800 dollari con una GeForce RTX 3050. Una configurazione che dice molto sui margini di manovra dei costruttori nel segmento budget, ma che apre anche una finestra concreta — seppur stretta — per chi guarda all’inference di LLM su hardware locale.

Il Ryzen 7 4700LE è un processore senza pretese di modernità: niente grafica integrata, frequenze contenute e una piattaforma AM4 ormai superata su molti fronti. Accanto a lui, la RTX 3050 con i suoi 8 GB di VRAM GDDR6 rappresenta l’unico vero motore utilizzabile per l’elaborazione vettoriale. È su questo dettaglio che si gioca la partita dell’inference on-premise.

Chi prova a far girare un LLM su una macchina del genere deve scendere a patti con la memoria video. Otto gigabyte costringono a una quantization spinta, tipicamente a 4 bit, per accogliere modelli da 7 miliardi di parametri. Il risultato è un sistema che può produrre token, sì, ma con una finestra di contesto ridotta e una latenza che lo allontana da qualsiasi impiego interattivo fluido. L’uso della sola CPU per l’inference sarebbe ancora più penalizzante, con tempi di risposta che sconsigliano scenari seri.

Eppure, questa configurazione ha un suo pubblico potenziale. Hobbisti, ricercatori alle prime armi o piccole realtà che vogliono testare pipeline di retrieval-augmented generation in ambiente air-gapped potrebbero trovarla un punto di partenza a costo contenuto. La sovranità dei dati, in questi casi, si paga con prestazioni modeste ma senza dipendere da cloud terzi. Il prezzo di 800 dollari racconta un’intera filosofia: portare l’inference dentro casa o in ufficio, accettandone i compromessi.

La scelta di AMD di rifornire ancora silicio Zen 2 segnala un fenomeno più ampio. L’inerzia del mercato hardware mantiene in vita architetture vecchie di anni, allungandone il ciclo di disponibilità molto oltre quanto ci si aspetterebbe. Per il budget on-premise è un’arma a doppio taglio: da un lato abbassa la barriera d’ingresso per chi inizia, dall’altro cristallizza un gradino prestazionale che per molti carichi di lavoro è già inadeguato. La RTX 3050, nata per il gaming leggero, in questo contesto diventa il collo di bottiglia dichiarato di qualsiasi ambizione AI.

Il sistema non è un riferimento per chi cerca prestazioni, ma un promemoria di quanto sia larga la forbice tra hardware d’accesso e macchine capaci di inference seria. La distanza non si misura solo in generazioni di architettura, ma in quantità di VRAM e nell’assenza di funzionalità come il supporto nativo a FP8 o a strutture di memoria unificata. Chi valuta deployment on-premise dovrà fare i conti con questa realtà: il costo iniziale basso si traduce quasi sempre in colli di bottiglia che limitano l’orizzonte applicativo.