Che l'inference, più del training, stia ridisegnando le priorità dei produttori di chip non è una novità assoluta. Ma quando a muoversi è Loongson, il segnale diventa più specifico: la corsa al silicio domestico cinese sta spostando il baricentro dall'accelerazione per data center alla capacità di servire carichi di inference con CPU e GPU sviluppate in casa. La notizia che l'azienda raccoglie fondi per espandere lo sviluppo di CPU e GPU, con l'inference indicata come motore dei piani nazionali, non porta cifre né roadmap dettagliate. Porta però una tesi di fondo: per una parte rilevante del mercato, l'inference è il primo vero banco di prova per architetture alternative ai giganti americani.

Il punto non è solo finanziario. Storicamente, il training dei modelli più grandi ha concentrato l'attenzione su acceleratori con grandi quantità di VRAM e interconnessioni ad alta banda. L'inference cambia i vincoli: i carichi sono spesso più distribuiti, più sensibili alla latenza locale e al costo operativo, e possono essere serviti da hardware meno specializzato, a patto di disporre di framework e runtime ottimizzati. È qui che la combinazione CPU-GPU torna centrale. Una CPU domestica con un ecosistema software sufficientemente maturo può gestire pipeline di preprocessing, scheduling e orchestrazione, mentre la GPU si occupa dei calcoli paralleli. In molti scenari self-hosted, questa divisione del lavoro riduce la dipendenza da piattaforme cloud esterne e tiene i dati dentro il perimetro aziendale.

Per Loongson, il messaggio è strategico. L'azienda non compete sul training su larga scala, ma può presidiare un'area in cui la sovranità tecnicica ha un valore immediato: deployment on-premise, edge e ambienti regolamentati. La domanda cinese di LLM e servizi di inference sta crescendo, ma i vincoli all'importazione di silicio avanzato spingono enti pubblici, banche e industria a cercare alternative nazionali. Investire su CPU e GPU in parallelo significa costruire una piattaforma che non dipende da un singolo componente esterno e che può essere integrata in server locali senza cambiare drasticamente l'architettura dei data center.

C'è un effetto di secondo ordine: lo sviluppo congiunto di CPU e GPU spinge anche la creazione di tooling e framework adattati alle architetture domestiche. Non basta avere il silicio: servono compilatori, runtime per inference e supporto alla quantization per modelli che devono girare con risorse contenute. Se l'ecosistema software segue l'hardware, il vantaggio per i fornitori locali non sarà solo di prezzo, ma di controllo sull'intero stack, dal driver all'orchestrazione. Chi oggi domina grazie all'ecosistema software legato a un singolo produttore di GPU potrebbe vedere eroso il proprio vantaggio nei mercati che scelgono la via domestica per ragioni normative o di sovranità dei dati.

Va evitata una lettura trionfalistica. La fonte non fornisce dettagli su capacità computazionali, processo produttivo o volumi. Il percorso di Loongson resta legato alla capacità di offrire prestazioni competitive e un ecosistema affidabile, non solo alla volontà politica. Tuttavia, il fatto che un produttore di CPU con ambizioni nazionali leghi esplicitamente la raccolta di fondi all'inference segnala un cambiamento strutturale: l'inference non è più considerata un problema minore rispetto al training, ma il campo in cui si decide quale hardware diventerà lo standard per i carichi locali e regolamentati. Per chi valuta deployment on-premise, esistono trade-off tra silicio specializzato e piattaforme general-purpose: AI-RADAR offre framework analitici su /llm-onpremise per approfondire. La partita, però, non si gioca solo sui benchmark: si gioca sulla capacità di rendere l'inference un'infrastruttura ordinaria, gestibile e controllabile.