«Allora, qualcuno ne ha presa una?». La domanda, affidata a un post su Reddit, sa di sfottò ma colpisce dritto: a quasi un anno dall’ondata di panico che seguì le restrizioni statunitensi all’export di GPU NVIDIA, quanti hanno davvero messo in rack un acceleratore Huawei? E, soprattutto, CUDA ci gira? La risposta, per nulla scontata, racconta molto della direzione reale del mercato dell’hardware per AI e dei vincoli che chiunque progetti un deployment on-premise, specialmente se mosso da esigenze di sovranità, deve oggi affrontare.

Le GPU Ascend di Huawei non sono fantascienza. L’azienda cinese produce silicio per training e inference di Large Language Models ormai da diverse generazioni, con specifiche che sulla carta reggono il confronto con i prodotti occidentali. La vera partita, però, si gioca sull’ecosistema software. CUDA non è solo un insieme di librerie; è un layer di compatibilità così radicato nei framework, nelle pipeline di dati, nelle abitudini degli sviluppatori che sostituirlo comporta uno sforzo paragonabile a riscrivere intere porzioni dello stack. E senza CUDA, la GPU alternativa rischia di diventare un costoso fermacarte.

Huawei propone la propria piattaforma, CANN (Compute Architecture for Neural Networks), con strumenti di porting e un supporto in crescita per PyTorch. Ma chi ha provato a migrare sa che il diavolo si annida nei dettagli: operator non supportati, ottimizzazioni assenti, un percorso di debug che allunga i tempi di messa in produzione. Per le grandi aziende cinesi, obbligate dalle sanzioni, questo costo aggiuntivo è assorbito dalla necessità. Fuori da quel perimetro, la convenienza economica e operativa svanisce.

Il nodo è strutturale. Il vantaggio di NVIDIA non è la GPU più veloce in assoluto, ma il fatto che tutto il software per LLM è già scritto per le sue GPU. Il Total Cost of Ownership di una soluzione alternativa, anche con hardware a prezzo competitivo, lievita quando si contano i mesi-uomo necessari ad adattare gli ambienti di development, riconvertire il know-how del team e manutenere un fork dell’intero stack di inference. Per un’infrastruttura self-hosted che punta al controllo dei dati, dove la semplicità operativa è un requisito, questo attrito diventa esiziale.

Ecco perché il post su Reddit è più di una battuta. Segnala che la frammentazione geopolitica del mercato dei chip non si traduce automaticamente in un ecosistema parallelo vitale. Si creeranno nicchie obbligate (la Cina, alcuni attori statali, progetti con vincoli di residenza dei dati che rendono accettabile il costo di cambio), ma il resto del mondo continuerà a gravitare attorno a CUDA, anche quando monta frustrazione per i prezzi e la concentrazione di mercato. La “morte del monopolio” annunciata un anno fa somiglia più a una lenta erosione, spinta più dalla politica che da una reale convenienza tecnica.