Una RTX 5090 da 96 GB di VRAM è apparsa su Alibaba a meno di 4.000 dollari. Non è un prodotto ufficiale Nvidia: si tratta di una modifica realizzata in Cina che porta la memoria della scheda a tre volte quella del modello standard. La notizia, segnalata su Reddit, è più di una curiosità hardware: mette in fila due tendenze che riguardano chi lavora con LLM on-premise e self-hosted.

La prima è la domanda di VRAM a basso costo. Per l'inference locale, la quantità di memoria video è il vincolo principale: se il modello e il contesto non entrano nella VRAM, il sistema deve ricorrere a offloading su RAM o CPU, con perdita di throughput. Una scheda consumer con 96 GB cambia i conti per chi vuole sperimentare modelli di grandi dimensioni o mantenere la quantization in FP16/INT8 senza sacrificare la finestra di contesto. Il fatto che il prezzo sia indicato sotto i 4.000 dollari, circa il 65% del costo che la fonte attribuisce alla scheda originale, rende l'acquisto allettante per piccoli laboratori, ricercatori indipendenti e team che vogliono evitare i costi del cloud.

La seconda tendenza è la risposta del mercato grigio a una segmentazione ufficiale che lascia scoperto il livello intermedio. Nvidia separa nettamente le GPU consumer dalle workstation e dalle soluzioni data center. Chi ha bisogno di molta VRAM oggi deve spostarsi su prodotti con prezzi elevati e canali enterprise. La modifica cinese aggira questa barriera, mostrando che esiste una domanda reale per hardware ad alta capacità a prezzo accessibile. Non è un dettaglio: se questa domanda continua a crescere, il mercato non ufficiale può diventare una valvola di sfogo, oppure spingere i vendor a rivedere i listini e le configurazioni.

I rischi, però, sono strutturali. Una scheda modificata non ha garanzia, non riceve driver certificati, può avere problemi di alimentazione, raffreddamento e stabilità nel tempo. Per chi la usa in un contesto produttivo, il risparmio iniziale va confrontato con il Total Cost of Ownership: un guasto non coperto, la mancanza di aggiornamenti di sicurezza o la difficoltà di reperire ricambi possono azzerare il vantaggio. Inoltre, un componente non tracciabile dentro un'infrastruttura aziendale solleva questioni di conformità e di supply chain. Per chi valuta deployment on-premise, AI-RADAR offre su /llm-onpremise framework analitici per pesare questi trade-off, ma il nodo resta la sostenibilità dell'hardware non ufficiale.

Il punto strutturale è che il mercato sta inviando un segnale chiaro: l'AI locale non è solo una questione di software. La disponibilità di memoria video a basso costo è un abilitatore. Le modifiche come questa RTX 5090 a 96 GB nascono da un bisogno reale e, finché il canale ufficiale non offrirà alternative comparabili, continueranno ad attrarre chi è disposto a tollerare il rischio. La domanda aperta non è se la card funzioni, ma quale costo nascosto si porta dietro.