È disponibile il driver Intel NPU 1.30 per Linux, un aggiornamento significativo per chi utilizza le Neural Processing Unit (NPU) di Intel sui sistemi Core Ultra.

Dettagli del rilascio

Questo rilascio rappresenta un'evoluzione nel supporto userspace per le NPU Intel su Linux, offrendo capacità migliorate per i System-on-Chip (SoC) Core Ultra. Il driver NPU si integra con il driver del kernel Intel IVPU, già presente nel kernel Linux principale, per fornire un'accelerazione ottimizzata.

Le NPU sono progettate per accelerare carichi di lavoro di intelligenza artificiale direttamente sull'hardware, riducendo la dipendenza dalla CPU o dalla GPU per determinate consegne. Questo può portare a una maggiore efficienza energetica e a prestazioni migliorate per applicazioni di AI on-device.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.