Non solo GPU: la corsa all'accelerazione hardware per l'intelligenza artificiale investe sempre più le CPU x86. AMD ha appena proposto le patch per il supporto all'ISA AVX10_V2_AUX nel compilatore GCC, poche settimane dopo che Intel aveva fatto lo stesso con le AI Compute Extensions (ACE). Dietro questa sincronia c'è lo x86 Ecosystem Advisory Group, un tavolo dove i progettisti di silicio collaborano per non frammentare il set di istruzioni. Il messaggio è chiaro: anche il calcolo su CPU vuole un posto al sole nell'inference AI, lontano dalla dittatura dei chip grafici.
L'estensione AVX10, nella sua versione 2 con suffisso AUX, promette di aggiungere operazioni vettoriali ottimizzate per moltiplicazioni matriciali e altri pattern tipici dei modelli linguistici. Non è una novità assoluta – Intel già con AVX-VNNI e AMX ha portato accelerazione per reti neurali sui suoi Xeon – ma l'intervento di AMD su GCC suggerisce che la prossima generazione di processori x86 di entrambi i produttori integrerà queste istruzioni, rendendole disponibili in modo uniforme su server, desktop e forse anche notebook.
Per chi gestisce large language model in casa, la domanda non è più se usare una GPU, ma se serve davvero. Modelli da 7-13 miliardi di parametri, quantizzati a 4 o 8 bit, possono girare su CPU con prestazioni accettabili per molti use case aziendali: analisi di documenti, assistenti interni, agenti conversazionali a bassa latenza. L'arrivo di AVX10_V2_AUX non farà certo concorrenza a una H100 nella generazione di token al secondo, ma potrebbe erodere la giustificazione economica per un'infrastruttura dedicata in certi contesti.
Il punto non è la potenza bruta, ma il controllo. Un server CPU-only semplifica la gestione: niente driver CUDA da aggiornare, nessuna contesa di memoria tra carichi, minore consumo energetico, compatibilità con qualunque distribuzione Linux. E soprattutto, i dati restano dove sono stati generati, senza dover invocare API cloud. In settori regolamentati – sanità, banche, pubblica amministrazione – questo è spesso il prerequisito per qualsiasi progetto AI.
L'iniziativa congiunta tra AMD e Intel segnala che la convergenza ISA non è solo una questione di leasing per i compilatori, ma un abilitatore di ecosistema. Se le istruzioni AI diventano parte dello standard x86 de facto, sviluppatori e framework (da PyTorch a ONNX Runtime) potranno compilare kernel ottimizzati una volta e distribuirli su milioni di macchine. Il TCO di un'adozione AI diffusa scende drasticamente, perché si sfrutta l'hardware già installato o comunque sostituibile con normali cicli di refresh dei server. Non è solo una vittoria per le CPU: è un colpo all'idea che l'inference seria richieda sempre un acceleratore dedicato, ridisegnando gli equilibri per chi sceglie il self-hosted come baluardo di sovranità.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!