Apple, Nvidia, Qualcomm e AMD stanno spostando l'inference dal cloud ai sistemi locali, dai personal AI PC alle NPU Ryzen e ai Mac Studio, rendendo l'on-premise un formato strutturale.
Un utente ha raccolto su eBay i prezzi delle GPU con 32 GB di VRAM sotto i 1600 dollari e li ha trasformati in un grafico con l'aiuto di Claude. Il dato segnala un mercato dell'usato sempre più centrale per chi vuole fare inference locale senza spend...
La serie Ryzen AI Max 400 'Gorgon Halo' sta per arrivare sul mercato, ma il supporto Linux alla NPU era rimasto indietro. Una patch di enablement dovrebbe entrare nel kernel 7.4. Per chi valuta inference locale e self-hosted, il ritardo segnala un pr...
AMD introduce PerfOpt in Linux 7.4 per migliorare le prestazioni AI/LLM sulle Radeon integrate. I benchmark mostrano incrementi del 18-23% su hardware Ryzen, soprattutto entry-level. Un segnale per chi valuta l'inference locale: le iGPU diventano un'...
Il nuovo EPYC a 256 core porta una banda memoria pari al 91% di una RTX 5090 con controller a 16 canali DDR5-12800. La community LocalLLaMA reagisce tra sarcasmo e realismo per i costi dei moduli RDIMM ad alta densità e per il dubbio su quanti token ...
La spinta di Nvidia sui personal AI computer segnala un cambio di baricentro: l'inference LLM si avvicina al dispositivo locale. Non è solo hardware consumer, ma un nodo on-premise in miniatura che tocca VRAM, quantization, TCO e sovranità dei dati. ...
La spinta di Nvidia verso i personal AI computer, segnalata da DIGITIMES, indica un cambiamento strutturale: l'inference si sposta dal cloud a macchine locali. Per le aziende si aprono scenari di sovranità dei dati e TCO, ma anche vincoli di VRAM e q...
Qualcomm presenta due system-on-chip con matrix core nella GPU e supporto LPDDR6. Non è una corsa ai benchmark: è un segnale sul confine della sovranità dei dati, che si sposta nel dispositivo. L'analisi AI-Radar sui vincoli di memoria, Quantization ...
Qualcomm ha presentato i nuovi SoC Snapdragon 8 Elite Gen 6 e Elite Extreme Gen 6 con core Oryon, GPU matrix cores e supporto LPDDR6. Più che la potenza grezza, il segnale è la spinta dell'Inference locale: i carichi AI si spostano sul dispositivo. R...
Un utente ha testato un Mac Studio con M5 Ultra, 256 GB di RAM e GPU a 80 core per inference agentica con GLM-5.3-Flash. I risultati lo soddisfano, ma segnala che la GPU sembra sottodimensionata rispetto alla memoria, sollevando dubbi sull'utilità di...
