I colli di bottiglia di VRAM e memoria sono centrali per l'inference locale, tra rumor su RTX 5090 da 64/96 GB e test che mostrano come la KV cache possa consumare quanto i pesi. I cambiamenti nell'hardware GPU di AMD, NVIDIA e Intel stanno ridisegnando le opzioni per l'AI self-hosted.
La dichiarazione del CEO di AMD, che prioritizza le GPU per data center, segna un punto di svolta nel panorama hardware per l'AI. Questa analisi approfondisce le implicazioni per le organizzazioni che perseguono deployment di LLM on-premise, ridefine...
Il CEO di AMD ha definito l'azienda 'data center first', chiudendo di fatto l'era delle GPU consumer a basso costo come priorità strategica. Per chi pianifica inference LLM self-hosted, il segnale conta: l'offerta di silicio, packaging e VRAM si spos...
NVIDIA ha rilasciato CUDA 13.5 insieme al driver Linux 620.70.06. La novità centrale è il supporto in general availability per Vera Rubin, architettura GPU di NVIDIA. Per chi lavora su infrastrutture self-hosted e LLM, il toolchain diventa disponibil...
La voce su GeForce RTX 5090 con 64 e 96 GB di VRAM tocca il nodo critico per chi usa LLM in locale: la memoria video come collo di bottiglia. Un'analisi sulle implicazioni per self-hosted, quantization, TCO e sovranità dei dati, oltre il semplice ann...
Un tecnico riparatore statunitense avrebbe segnalato l'esistenza di RTX 5090 con 64 e 96 GB di VRAM. La notizia, da verificare, tocca il nodo centrale per l'inference locale: più memoria video significa modelli più grandi, quantization meno aggressiv...
Intel ha rilasciato la versione 26.40.40196.8 del Compute Runtime open-source per Windows e Linux. Il rilascio prepara il supporto alle future GPU della serie D e alle estensioni OpenCL LEO per Nova Lake P. Più che un aggiornamento di manutenzione, s...
Un test su M4 Max con Qwen3.8 27B e contesto a 164k token mostra che cache e KV costano quanto i pesi. Il vecchio consiglio sui 64 GB va rivisto.
Con i primi esemplari in produzione, NVIDIA rivede alcuni parametri delle piattaforme GPU Rubin. Il momento segnala il passaggio dalla validazione alla fornitura e obbliga i progettisti di infrastrutture AI a rivedere piani di integrazione, alimentaz...
