Quando il CEO di una delle aziende che definiscono l'architettura dei chip globali dichiara che il futuro dell'AI andrà «oltre le GPU», conviene prendere appunti. Non perché i gigawatt di calcolo parallelo diventeranno improvvisamente inutili, ma perché la natura stessa dei carichi di lavoro sta cambiando — e con essa la mappa dell'hardware che conta.

Il fulcro del ragionamento, espresso nei giorni scorsi dal CEO di Arm, è tanto semplice quanto dirompente: gli agenti AI — sistemi autonomi che eseguono compiti iterativi, prendono decisioni, interagiscono con software e dati in cicli continui — sono carichi di lavoro radicalmente diversi dall'addestramento di un modello linguistico o dall'Inference di una singola richiesta. Più che calcolo bruto, richiedono orchestrazione, branching logico, gestione della memoria, latenza prevedibile. Tutti terreni dove le CPU brillano per efficienza, in particolare le architetture Arm con il loro rapporto performance-per-watt.

Per chi lavora nell'universo on-premise — aziende che trattano dati sensibili e valutano TCO reali — questa prospettiva ha implicazioni strutturali. Oggi una pipeline di agenti può girare su un cluster di CPU che costa una frazione, in termini energetici e di capitale, rispetto a un equivalente impianto di GPU, ed è gestibile senza dipendenze cloud né staffe di raffreddamento specializzato. La sovranità dei dati, in questo scenario, smette di essere un lusso regolatorio e diventa un'opzione economicamente percorribile.

Certo, il passaggio non è binario. Le GPU restano indispensabili dove la densità di calcolo parallelo è irrinunciabile — training, quantization, modelli con finestre di contesto estese. Ma man mano che gli agenti AI diventano la forma prevalente di Inference, il bilanciamento tra CPU e GPU si sposta. Ne beneficiano i fornitori di IP per processori (con Arm in prima fila), i system integrator che costruiscono server ottimizzati per carichi misti, e le organizzazioni che puntano a un'infrastruttura locale governabile e scalabile senza bollette cloud fuori controllo.

È una frizione interessante con l'attuale monopolio di Nvidia nel software stack per data center. Se il valore si sposta sulla capacità delle CPU di orchestrare centinaia di agenti in parallelo, il lock-in su CUDA perde presa. Non a caso stiamo vedendo una proliferazione di runtime e framework (dai più noti a soluzioni come llama.cpp, vLLM, TensorRT-LLM) che abilitano l'Inference su CPU con un'attenzione maniacale alla quantization e all'uso efficiente della VRAM — o della RAM di sistema, quando la GPU non serve. Il messaggio di Arm accelera questa traiettoria, suggerendo agli investitori e ai CTO che la prossima generazione di infrastruttura AI potrebbe nascere meno appariscente ma più redditizia per chi la controlla.

La posta in gioco per l'Italia e l'Europa non è marginale: un'infrastruttura AI costruita su CPU a basso consumo e ospitata in sede è molto più compatibile con i vincoli GDPR e con i limiti di spesa pubblica rispetto a mega-cluster GPU in cloud. Non si tratta di abbandonare la potenza bruta, ma di riconoscere che la fase successiva dell'AI premia l'intelligenza architetturale, non solo quella computazionale.