La Corea del Sud ha acceso un faro su un problema che covava sotto la cenere: la prima ondata di listini per la RTX 5090, basata su architettura Blackwell, supera i 5.100 dollari. Non è solo un dettaglio per appassionati di gaming. Per chi lavora ogni giorno con LLM e Fine-tuning su hardware consumer, quel numero segnala un cambio di fase. La scheda che molti consideravano il prossimo cavallo di battaglia per l’Inference locale costa fino al 30% in più del modello precedente. E quando si moltiplica per quattro, otto o sedici GPU all’interno di una farm auto-ospitata, la differenza scava un solco nel TCO e costringe a rivedere i piani.

L’esplosione del costo del silicio

I rincari non nascono dal nulla. Il nodo di TSMC utilizzato per Blackwell, insieme ai moduli di memoria GDDR7 che girano intorno ai 20 dollari l’uno, stanno spingendo il prezzo finale ben oltre le aspettative. La legge di Moore, intesa come riduzione del costo per transistor, non è mai stata lineare, ma oggi lo scostamento è particolarmente vistoso proprio nel segmento che ha permesso a startup e laboratori indipendenti di portare l’AI in casa. Non parliamo di hardware per data center con margini enterprise, ma di schede consumer che per anni hanno rappresentato la via d’accesso più economica alla potenza di calcolo necessaria per servire modelli open-source.

Il rincaro dei moduli GDDR7 è un tassello chiave. Mentre la VRAM restava stabile nei cicli passati, oggi incide in modo deciso: una scheda con 32 GB di memoria vede una fetta consistente del costo imputabile proprio ai chip di memoria. E poiché i modelli LLM richiedono quantità crescenti di VRAM per mantenere finestre di contesto ampie e risposte veloci, ogni gigabyte in più si paga caro. La conseguenza immediata è che la soglia per avviare un nodo di Inference credibile si alza, e il calcolo del ritorno sull’investimento si complica.

Non è un problema solo coreano. Se le quotazioni venissero confermate sui mercati globali, i system builder e i distributori si troverebbero a dover giustificare un aumento generazionale che non ha eguali nella serie RTX. E questo avviene proprio mentre il panorama open-source — da Llama a Mistral — sta rendendo più appetibile l’idea di portare l’LLM sotto il proprio controllo, lontano da API a consumo.

La morsa della supply chain e il gatekeeper unico

Nvidia resta il gatekeeper. La combinazione tra l’architettura Blackwell, il processo produttivo di TSMC e la disponibilità di GDDR7 è talmente integrata che, nel breve termine, non esistono alternative capaci di offrire lo stesso rapporto fra potenza e facilità di integrazione nel mondo self-hosted. Samsung e Intel Foundry potrebbero inserirsi in una finestra aperta dalla domanda di wafer a costi inferiori, ma i tempi di qualifica per l’AI sono lunghi, e la fiducia degli sviluppatori si costruisce con ecosistemi maturi.

La memoria gioca un ruolo ancora più subdolo. I produttori asiatici di GDDR7 — principalmente Samsung, SK Hynix e Micron — stanno aumentando la produzione, ma la domanda per l’inference AI è in forte crescita anche nel settore server. Questo significa che i volumi destinati alle schede consumer potrebbero essere limitati, mantenendo i prezzi elevati. Una RTX 5090 con 24 o 32 GB di VRAM resta appetibile per chi serve modelli da 7-13 miliardi di parametri, ma l’elasticità del prezzo potrebbe spingere molti verso soluzioni diverse.

Il paradosso è che Nvidia, con la stessa linea di prodotto, serve due anime: i gamer e gli appassionati di AI, ma la seconda categoria è molto più sensibile al costo per gigabyte di VRAM. Se il divario con le schede professionali (come le future RTX 6000 Blackwell) si assottiglia, il segmento consumer rischia di perdere il suo vantaggio storico, e con esso l’intero ecosistema del self-hosting sperimentale.

Sovranità digitale sotto attacco economico

L’aumento dei prezzi ha un effetto di secondo ordine meno evidente ma più dirompente: colpisce la sovranità dei dati. Le imprese che avevano scelto di portare l’Inference in casa per conformarsi a GDPR, per gestire dati sanitari o per contratti militari, ora devono rifare i conti. Un server con quattro RTX 5090 che doveva costare meno di 16.000 dollari ora ne richiede molti di più, e il business case si inclina verso il cloud, dove l’hardware è condiviso e il costo operativo si diluisce.

Tuttavia, il cloud non è una via di fuga senza ostacoli. I vincoli legali su residenza e trattamento dei dati spesso impongono di restare on-premise o su infrastrutture regionali certificate. Il risultato è una faglia che separa chi può permettersi di aggiornare l’hardware da chi è costretto a cercare alternative di compromesso: cloud regionali specializzati in AI oppure hardware ricondizionato, come le RTX A6000 o le V100, che sul mercato dell’usato mantengono prezzi più stabili e offrono ancora VRAM abbondante.

Questa faglia potrebbe approfondirsi. Le grandi aziende con budget consistenti resteranno on-premise e consolideranno la propria autonomia. Le realtà più piccole o i laboratori indipendenti, invece, rischiano di essere espulsi dalla possibilità di fare Fine-tuning locale, dovendo ripiegare su modelli più piccoli o su servizi cloud che reintroducono costi ricorrenti e dipendenza da terzi. La sovranità digitale, in altre parole, diventa un lusso che non tutti possono permettersi.

La rincorsa all’efficienza: quantization e modelli distillati

Quando l’hardware costa di più, l’ingegno si concentra sull’efficienza. La quantization aggressiva — portare i pesi a 4 bit o addirittura a 2 bit — non è più solo una questione di performance, ma una leva di sopravvivenza. Abbattere il footprint in VRAM di un LLM del 50% o più significa poterlo far girare su schede più economiche o con meno GPU, recuperando margine nel TCO.

Il movimento open-source lo ha capito bene: framework come llama.cpp e le librerie di quantization spingono tecniche come GPTQ e AWQ verso limiti sempre più estremi, con perdite di qualità sorprendentemente contenute. Allo stesso tempo, la distilazione dei modelli — ovvero l’addestramento di versioni più compatte che ereditano le capacità di modelli più grandi — sta diventando una strategia parallela. Modelli da 3-7 miliardi di parametri, se distilati correttamente, offrono prestazioni vicine a quelli da 13-20 miliardi in molti task, e girano agevolmente su RTX di generazione precedente.

C’è però un trade-off. Spingere la quantization o ridurre i parametri significa accettare un certo degrado in domini complessi, come il ragionamento matematico o la comprensione di testi lunghi. Per molte applicazioni aziendali questo è accettabile, ma per casi d’uso più delicati — si pensi all’analisi di documenti legali — il compromesso potrebbe non essere sufficiente. La rincorsa all’efficienza diventa così un filtro: separa i task dove l’LLM deve essere una commodity da quelli dove serve potenza bruta, e per questi ultimi il costo dell’hardware resta un nodo non aggirabile.

Il mercato delle alternative: usato, cloud regionale e nuovi entranti

L’impennata dei prezzi della RTX 5090 dà ossigeno a un mercato parallelo fatto di hardware ricondizionato. Le RTX A6000, con i loro 48 GB di VRAM, e le più datate V100 da 32 GB, restano punti di riferimento per chi deve servire LLM senza svenarsi. Le quotazioni di queste schede sul mercato dell’usato sono rimaste relativamente stabili, e la domanda potrebbe aumentare, creando un corridoio di accesso all’AI on-premise a costi contenuti.

Sul versante cloud, i fornitori regionali guadagnano interesse. Servizi come quelli di operatori europei che garantiscono residenza dei dati e conformità GDPR possono assorbire parte della domanda di Inference che non riesce a restare on-premise. Tuttavia, il passaggio al cloud riporta in auge i costi operativi variabili e la dipendenza da un fornitore, elementi che proprio il self-hosting voleva eliminare. Le imprese si trovano a dover calcolare nuovamente il punto di pareggio tra investimento hardware e spesa cloud, con l’aggravante che i prezzi delle GPU in cloud stanno a loro volta salendo.

Nel medio termine, l’arrivo di architetture alternative (come le APU AMD o i nuovi acceleratori Intel) potrebbe allentare la morsa, ma la compatibilità con gli stack software per LLM è ancora un cantiere aperto. Senza un ecosistema maturo di framework e driver, anche un hardware più economico fatica a essere adottato. Per ora, la leva più immediata per contenere il TCO resta l’ottimizzazione software, mentre la ricerca di nuove fonti di silicio procede a rilento.

Oltre il 2025: cosa tenere d’occhio

Il segnale coreano sulla RTX 5090 è solo il primo di una serie di scossoni che accompagneranno la prossima ondata di hardware AI. Da monitorare ci sono tre fronti. Primo, i prezzi dei moduli GDDR7: se la produzione aumenterà e la concorrenza si farà sentire, il costo per gigabyte potrebbe scendere, rendendo le future schede più accessibili. Secondo, la roadmap di Nvidia: l’azienda potrebbe decidere di segmentare in modo più netto le linee consumer e professionali, oppure di introdurre modelli con meno VRAM per mantenere un prezzo d’ingresso più basso. Terzo, l’evoluzione degli strumenti di ottimizzazione: se la quantization a 2-3 bit raggiungerà una maturità sufficiente, il requisito minimo di VRAM per molti LLM crollerà, spostando l’asticella del costo d’ingresso.

Un altro segnale da osservare è il comportamento della community open-source. Se la barriera economica diventerà troppo alta, potremmo assistere a un’accelerazione verso modelli più piccoli e combinazioni di più modelli specializzati (MoE) che girano su hardware modesto. In alternativa, il consolidamento verso pochi laboratori ben finanziati potrebbe ridurre la diversità di modelli e approcci, impoverendo l’ecosistema.

Infine, la partita geopolitica della sovranità dei dati non farà che intensificarsi. Le norme europee, e non solo, continueranno a spingere per il trattamento locale dei dati sensibili, ma se il costo dell’hardware necessario per rispettarle diventa proibitivo, si aprirà un dibattito su chi debba farsi carico del sovrapprezzo della privacy. La RTX 5090 è solo il primo banco di prova: dimostra che il costo della sovranità digitale non è teorico, ma si misura in dollari — e ora quei dollari sono più di 5.100.