Piccoli modelli visivo-linguistici e nuovi supporti driver stanno spostando i carichi AI sulle NPU di telefoni e PC. Questo segnala una spinta verso un'inference locale a basso consumo e più rispettosa della privacy oltre le GPU tradizionali.
Nel ciclo verso Linux 7.5 si sono già accumulate tre pull request drm-misc-next per l'abilitazione delle NPU AMD Ryzen AI con AIE4. Un segnale concreto per chi guarda all'inference locale e self-hosted.
Cactus Compute ha rilasciato Mirage, un modello visivo-linguistico da 22 MB e 51,3 milioni di parametri pensato per smartphone, wearable e robot. Su Samsung Galaxy S26 gira in 74 ms sulla NPU e 107 ms sulla CPU, in un solo passaggio per descrizione d...
Un progetto open source, npu-driver, sta provando a spostare la composizione del desktop di Windows 11 dalla GPU alla NPU. Oggi viaggia a 2-3 Hz, ma punta a 30 Hz. Non è una vittoria prestazionale: è la dimostrazione che le NPU possono uscire dal ruo...
