Il titolo circolato su Reddit è secco: un tecnico di riparazione statunitense avrebbe indicato l'esistenza di GeForce RTX 5090 con 64 e 96 GB di VRAM. Il condizionale è d'obbligo, perché la fonte si limita a un post e a una discussione collegata. Ma la sola ipotesi tocca il punto più sensibile per chi usa LLM in locale: la memoria video resta il collo di bottiglia principale per caricare modelli più grandi, tenere contesti estesi e ridurre il ricorso alla quantization.

Una scheda consumer con 64 o 96 GB cambierebbe l'equazione per chi fa self-hosted. Non si tratterebbe solo di eseguire modelli di fascia media: si aprirebbe spazio per quantization meno aggressiva, per finestre di contesto più ampie e per fine-tuning leggero su singola GPU, senza dover passare per forza a piattaforme professionali o al cloud. Il punto non è la scheda in sé, ma il costo per gigabyte di VRAM effettivamente utilizzabile dopo driver, sistema e contesto.

Se la voce fosse fondata, NVIDIA estenderebbe la logica delle workstation alla fascia consumer, ma con un limite strutturale: la VRAM non basta da sola. La larghezza di banda della memoria e la potenza di calcolo restano decisive per il throughput in inference. Una scheda con più VRAM ma stessa architettura non aumenta magicamente i token al secondo; consente però di evitare lo swapping e di mantenere il modello residente in memoria, un vantaggio concreto per carichi prolungati.

Il primo effetto collaterale sarebbe sul mercato delle GPU professionali. Chi oggi compra una scheda workstation soprattutto per la VRAM potrebbe vedere una via più economica, ma senza ECC, vGPU e contratti enterprise. Le aziende con requisiti di sovranità dei dati potrebbero valutare server locali con più schede consumer, trovandosi però davanti a nodi di supporto, garanzia e affidabilità che non si risolvono con un singolo acquisto.

Per la sovranità dei dati l'ipotesi è rilevante: più VRAM a basso costo riduce la necessità di inviare prompt e documenti a servizi cloud. Il TCO di un nodo locale migliora se il costo per gigabyte di VRAM scende abbastanza da rendere sostenibile una pipeline di inference interna. Ma il TCO non si esaurisce nell'hardware: consumi, raffreddamento, manutenzione e aggiornamento driver diventano variabili critiche.

La notizia resta una voce da verificare. Tuttavia, il fatto che circoli con insistenza è di per sé un segnale: la domanda di VRAM consumer per carichi AI non è più un segmento di nicchia. Per chi valuta deployment on-premise, AI-RADAR offre framework analitici su /llm-onpremise per soppesare questi trade-off.