Topic / Trend Rising

Accelerazione hardware per AI on-device ed edge

I produttori di chip e i vendor di dispositivi stanno accelerando il supporto all'AI locale, da Snapdragon 8 Elite Gen 6 e driver Linux Adreno 850 di Qualcomm a Apple M5 Ultra, AMD GDDR7 e le mosse di Nvidia/Intel. La spinta sta spostando il perimetro dell'AI sul dispositivo.

Detected: 2026-09-27 · Updated: 2026-09-27

Articoli Correlati

2026-09-27 • ServeTheHome

Qualcomm presenta Snapdragon 8 Elite Gen 6: più Inference sul device

Qualcomm ha presentato i nuovi SoC Snapdragon 8 Elite Gen 6 e Elite Extreme Gen 6 con core Oryon, GPU matrix cores e supporto LPDDR6. Più che la potenza grezza, il segnale è la spinta dell'Inference locale: i carichi AI si spostano sul dispositivo. R...

#Hardware #LLM On-Premise #DevOps
2026-09-27 • Phoronix

Linux 7.4 rafforza il reset della GPU su Raspberry Pi: stabilità per l'edge

Il kernel Linux 7.4 introduce nel driver VC4 un supporto migliore al reset della GPU Broadcom V3D, insieme a nuovi helper HDMI 2.0. Per le Raspberry Pi usate come nodi locali, recuperare da un errore della GPU senza riavviare il sistema migliora la d...

#Hardware #LLM On-Premise #Fine-Tuning
2026-09-26 • Tom's Hardware

Nvidia: con RTX Mega Geometry 2.0 la geometria arriva in VRAM on demand

Nvidia presenta RTX Mega Geometry 2.0, che gestisce la geometria del ray tracing caricandola in VRAM su richiesta. L'approccio riduce la pressione sulla memoria video e segnala una direzione importante per i carichi locali, inclusi quelli legati all'...

#Hardware #LLM On-Premise #DevOps
2026-09-25 • LocalLLaMA

Mac Studio M5 Ultra: 256 GB di RAM, ma la GPU frena l'AI locale

Un utente ha testato un Mac Studio con M5 Ultra, 256 GB di RAM e GPU a 80 core per inference agentica con GLM-5.3-Flash. I risultati lo soddisfano, ma segnala che la GPU sembra sottodimensionata rispetto alla memoria, sollevando dubbi sull'utilità di...

#Hardware #LLM On-Premise
2026-09-25 • Phoronix

Qualcomm pubblica le patch GPU Linux per Adreno 850 su Snapdragon X2 Mahua

Qualcomm ha diffuso patch open source per il driver GPU Adreno 850 nel SoC Mahua, destinato ai modelli inferiori della famiglia Snapdragon X2. La tempistica, un giorno dopo l'annuncio del supporto Linux per X2, indica che il codice aperto diventa par...

#Hardware #LLM On-Premise #DevOps
2026-09-24 • LocalLLaMA

Mac M5 Ultra 256GB: il silenzio dei benchmark penalizza l’on-premise

Il Mac M5 Ultra con 256 GB è sul mercato ma mancano benchmark seri: solo influencer che testano modelli da 8b. Questo vuoto informativo penalizza chi valuta l'hardware Apple per LLM self-hosted, favorendo di fatto l'ecosistema Nvidia. Senza dati ripe...

#Hardware #LLM On-Premise #DevOps
2026-09-24 • DigiTimes

Intel: il coordinamento CPU-GPU al centro dell'AI agentica

Intel sposta il focus sull'AI agentica: il coordinamento tra CPU e GPU diventa il fulcro. La mossa segnala una rilettura dell'hardware per workload che non si esauriscono in una singola inference, ma concatenano ragionamento, tool calling e memoria. ...

#Hardware #LLM On-Premise #DevOps
2026-09-23 • Phoronix

Qualcomm apre il driver Linux della Adreno 850 un giorno dopo il lancio

Qualcomm ha annunciato lo Snapdragon 8 Elite Extreme Gen 6 e, il giorno dopo, ha pubblicato le prime patch per il kernel Linux dedicate alla GPU Adreno 850 con il driver MSM. La tempistica segnala un'attenzione crescente all'abilitazione open source ...

#Hardware #LLM On-Premise #DevOps
2026-09-23 • Tom's Hardware

AMD inizia ad aggiungere il supporto GDDR7 ai driver GPU Linux

AMD ha iniziato ad aggiungere il supporto a GDDR7 nei driver GPU per Linux. Il lavoro di bring-up anticipa l'arrivo delle schede e tocca direttamente la banda di memoria, una variabile chiave per l'inference LLM su hardware locale. Per chi gestisce i...

#Hardware #LLM On-Premise #Fine-Tuning
← Torna ai Topic