Nvidia, Qualcomm e AMD stanno spingendo l'inference dal cloud verso PC locali, smartphone, NPU, nodi edge e server self-hosted. Il baricentro si sposta sul dispositivo e sull'infrastruttura locale, con implicazioni per la sovranità dei dati.
Un utente ha raccolto su eBay i prezzi delle GPU con 32 GB di VRAM sotto i 1600 dollari e li ha trasformati in un grafico con l'aiuto di Claude. Il dato segnala un mercato dell'usato sempre più centrale per chi vuole fare inference locale senza spend...
La serie Ryzen AI Max 400 'Gorgon Halo' sta per arrivare sul mercato, ma il supporto Linux alla NPU era rimasto indietro. Una patch di enablement dovrebbe entrare nel kernel 7.4. Per chi valuta inference locale e self-hosted, il ritardo segnala un pr...
AMD introduce PerfOpt in Linux 7.4 per migliorare le prestazioni AI/LLM sulle Radeon integrate. I benchmark mostrano incrementi del 18-23% su hardware Ryzen, soprattutto entry-level. Un segnale per chi valuta l'inference locale: le iGPU diventano un'...
La spinta di Nvidia sui personal AI computer segnala un cambio di baricentro: l'inference LLM si avvicina al dispositivo locale. Non è solo hardware consumer, ma un nodo on-premise in miniatura che tocca VRAM, quantization, TCO e sovranità dei dati. ...
La spinta di Nvidia verso i personal AI computer, segnalata da DIGITIMES, indica un cambiamento strutturale: l'inference si sposta dal cloud a macchine locali. Per le aziende si aprono scenari di sovranità dei dati e TCO, ma anche vincoli di VRAM e q...
Un utente ha usato Qwen 27B su una RTX 4090 per produrre motion graphics ispirate ai recenti post con Opus 5.5. Il progetto, costruito con il framework Accuretta, mostra che la generazione creativa locale comincia a coprire casi d'uso finora riservat...
Qualcomm presenta due system-on-chip con matrix core nella GPU e supporto LPDDR6. Non è una corsa ai benchmark: è un segnale sul confine della sovranità dei dati, che si sposta nel dispositivo. L'analisi AI-Radar sui vincoli di memoria, Quantization ...
Qualcomm ha presentato i nuovi SoC Snapdragon 8 Elite Gen 6 e Elite Extreme Gen 6 con core Oryon, GPU matrix cores e supporto LPDDR6. Più che la potenza grezza, il segnale è la spinta dell'Inference locale: i carichi AI si spostano sul dispositivo. R...
Il kernel Linux 7.4 introduce nel driver VC4 un supporto migliore al reset della GPU Broadcom V3D, insieme a nuovi helper HDMI 2.0. Per le Raspberry Pi usate come nodi locali, recuperare da un errore della GPU senza riavviare il sistema migliora la d...
