Nvidia ha sorpreso il mercato annunciando una collaborazione con d-Matrix, startup emergente che progetta chip specifici per l’inference di modelli AI. Invece di tentare di schiacciare un potenziale rivale, il gigante delle GPU ha scelto di integrare i suoi processori con gli acceleratori di d-Matrix in un sistema condiviso. Il primo cliente sarà Parasail, azienda di cloud AI, secondo quanto riferito da The Information. Questo annuncio, apparentemente tecnico, è in realtà un segnale forte: Nvidia intende presidiare l’intero stack dell’intelligenza artificiale, non solo l’addestramento.

d-Matrix è nota per sviluppare architetture di calcolo-in-memoria digitale ottimizzate per i transformer, la classe di modelli che alimenta la quasi totalità delle LLM odierne. A differenza delle GPU, che eccellono nell’addestramento ma possono risultare sovradimensionate per l’inference su larga scala, i chip specializzati promettono throughput più elevato, latenza inferiore e consumi ridotti. La mossa di Nvidia, quindi, riconosce implicitamente che il mercato dell’inference richiede soluzioni eterogenee.

Per un’azienda che controlla oltre l’80% del mercato degli acceleratori AI, la scelta di cooperare anziché combattere non è banale. Da un lato, Nvidia rafforza il proprio ecosistema, legando a sé startup promettenti e i loro clienti. Dall’altro, evita che l’inference diventi terreno di fuga per i concorrenti – da Groq a Cerebras – che propongono chip alternativi. In pratica, offre un “pacchetto completo”: GPU per i carichi pesanti, chip specializzati per l’esecuzione quotidiana. Il tutto gestito dal software CUDA, che rimane il collante dell’offerta.

Questa strategia ha riflessi anche per chi gestisce hardware in proprio. In molti scenari on-premise, dove la sovranità dei dati e la prevedibilità dei costi sono cruciali, un’architettura composita potrebbe diventare la norma. L’idea di avere un server che combina la potenza di calcolo generica delle GPU con l’efficienza di un acceleratore dedicato all’inference si allinea con la ricerca di TCO ottimale. Certo, oggi la soluzione è pensata per il cloud, ma i componenti hardware potrebbero presto apparire in listini per deployment locali. I responsabili IT dovranno valutare se questa eterogeneità semplifichi o complichi le pipeline: meno energia per token generato, ma anche più complessità di gestione.

Il caso Parasail è emblematico: un fornitore di servizi cloud che, con questa infrastruttura, potrà offrire AI-as-a-Service a costi competitivi. Ma il messaggio più ampio è che il mercato si sta segmentando: non esiste più il chip “unico” per fare tutto, ma si afferma un modello di computing disaggregato, dove ogni fase della pipeline – pre-processing, inference, post-processing – trova il suo silicio ideale. Per Nvidia, è un modo elegante per restare al centro, senza dover rincorrere ogni nicchia con prodotti proprietari. Per l’industria, è la prova che l’era dell’efficienza è iniziata, dopo anni di corsa alla pura potenza bruta.