Modifiche GPU con più VRAM, workstation multi-GPU e confronti VRAM per dollaro/banda stanno ampliando l'accesso a inference e addestramento locale degli LLM oltre l'hardware dei data center.
Una RTX 5090 con 96 GB di VRAM, venduta su Alibaba a meno di 4.000 dollari, mostra la crescita di un mercato grigio orientato all'inference on-premise. La modifica cinese triplica la memoria della scheda standard, abbassando la soglia per eseguire lo...
Un modder ha sostituito il connettore a 16 pin di una RTX 5090 con tre 8-pin, portando la scheda a 900 watt e 3.400 MHz. La mod evidenzia la tensione tra potenza di picco, affidabilità dell'alimentazione e gestione termica, con implicazioni per chi u...
System76 ha presentato il Thelio Mira AI, un desktop pensato per carichi multi-GPU: training di modelli, fine-tuning, inference, computer vision e generazione di immagini. La macchina combina CPU AMD Ryzen 9000 con opzioni GPU NVIDIA o AMD e si prest...
Una comparazione condivisa su Reddit usa VRAM per dollaro e bandwidth dichiarata per orientarsi tra le GPU più discusse nei canali LocalLLaMA. Prezzi raccolti con ChatGPT, nuovi o di seconda mano, senza garanzie. Un metodo grezzo ma utile per chi val...
