Il segnale arriva dalla Corea del Sud, ma il contraccolpo è globale. Le nuove Nvidia RTX 5090 — basate su architettura Blackwell e attese come pilastro per workstation e server AI auto-ospitati — vengono listate a oltre 5.100 dollari, con rincari che in alcuni modelli sfiorano il 30% rispetto alla generazione precedente.

La combinazione di costi dei wafer TSMC in ascesa e moduli GDDR7 da circa 20 dollari l’uno sta ridisegnando il cartellino di quello che molti considerano il cavallo di battaglia per l’Inference di LLM in locale. Non è solo un problema per i gamer: la comunità che sperimenta Fine-tuning e servizio di modelli open-source su hardware consumer vede messa in discussione la sostenibilità economica del proprio stack.

Per chi si occupa di deployment on-premise, il TCO non è mai stato un dettaglio secondario. Un nodo di calcolo basato su RTX 5090 che avrebbe dovuto costare meno di 4.000 dollari ora richiede un investimento significativamente più alto, e la differenza si fa sentire quando si mettono in piedi farm con quattro o otto schede. L’effetto immediato è la pressione sulla diffusione della Quantization aggressiva e su tecniche di compressione dei modelli, perché abbattere il footprint in VRAM diventa ancora più critico quando ogni gigabyte di memoria grafica costa di più.

C’è un effetto di secondo ordine meno scontato. Le imprese che avevano scelto di portare l’Inference in casa per motivi di sovranità dei dati — compliance GDPR, dati sanitari, contratti militari — ora potrebbero rivedere i conti. Lo shift verso il cloud, dove il costo dell’hardware è condiviso, torna a essere un’opzione allettante, ma si scontra con vincoli legali. Il risultato è una faglia che spinge da un lato verso fornitori di servizi cloud specializzati in AI regionale, dall’altro verso hardware ricondizionato come le RTX A6000 o le vecchie V100, che mantengono prezzi più stabili sul mercato dell’usato.

I produttori asiatici di memoria GDDR7 e i concorrenti di TSMC — Samsung, Intel Foundry — potrebbero beneficiare di una finestra per offrire alternative più economiche, ma i tempi di qualifica nel settore AI sono lunghi. Nel breve termine, Nvidia resta l’unico gatekeeper e il segnale dei prezzi coreani indica che la legge di Moore, quando applicata al costo per token, è tutt’altro che scontata.

Nessuno si aspettava che l’hardware per LLM diventasse una commodity a buon mercato, ma l’aumento dei prezzi di listino — se confermato globalmente — cambia le carte per i laboratori indipendenti e le startup che puntavano su fine-tuning locale. La domanda che emerge è se la community risponderà con un’accelerazione verso modelli più piccoli e distilati, o se assisteremo a un consolidamento verso pochi attori con le risorse per permettersi i nuovi macchinari. In ogni caso, il costo della sovranità digitale sale, e non è una buona notizia per chi lavora con dati sensibili.