L'ultima mossa per scalfire il predominio di Nvidia nell'AI non proviene da un nuovo processore, ma da un runtime software. ZML, startup parigina, ha pubblicato un tool gratuito che punta a far girare modelli linguistici e altri carichi di inference in modo veloce su silicio di fornitori diversi: Nvidia, AMD, Google (TPU), Apple Silicon e Intel. Se la promessa regge, chi mette in produzione modelli open source può finalmente mescolare hardware senza riscrivere il codice per ogni piattaforma.

Nvidia non domina solo grazie alle sue GPU. Il vero fossato è CUDA, l'impalcatura software che lega sviluppatori, librerie e ottimizzazioni a un unico ecosistema. Rompere questo legame è stato tentato più volte con standard aperti come OpenCL o SYCL, ma la comodità e le performance di CUDA hanno sempre prevalso. ZML entra in questo solco con un approccio che, stando all'annuncio, punta sulla massima semplicità: un unico runtime, modelli già pronti, accelerazione cross-vendor senza compromessi di configurazione.

Per chi valuta deployment on-premise o in ambienti con requisiti di sovranità dei dati, uno strumento del genere cambia le carte in tavola. Le organizzazioni possono acquistare server con GPU di fornitori diversi – AMD per alcuni carichi, Nvidia per altri, nodi Apple Silicon per inference a basso consumo – senza dover gestire codebase separate. Questo riduce il rischio di dipendenza da un singolo fornitore e abbassa il TCO (TCO), permettendo di diversificare l'hardware in base a disponibilità e prezzo. AI-RADAR ha già esplorato i trade-off del deployment on-premise: qui trovate un framework analitico su /llm-onpremise.

Certo, la parola 'veloce' in questi annunci va presa con cautela. Le ottimizzazioni proprietarie di Nvidia (TensorRT, cuDNN) sono difficili da eguagliare, specie su modelli complessi e alto throughput. Ma per moltissimi casi d'uso – inference su modelli di medie dimensioni, prototipazione, edge computing – un runtime che offra performance 'sufficientemente buone' su qualsiasi hardware può essere un game-changer. La gratuità del tool abbassa ulteriormente la barriera all'adozione.

Il lancio di ZML segnala qualcosa di più profondo: la frammentazione del mercato hardware AI sta creando una domanda di astrazione software che ricorda l'epoca della Java Virtual Machine. Come la JVM rese il codice portabile su diversi sistemi operativi, così runtime portabili potrebbero rendere i modelli AI indipendenti dall'hardware. Se l'industria si muovesse in questa direzione, il valore si sposterebbe dalle piattaforme ai modelli e ai dati, costringendo Nvidia a competere non più sul controllo dell'ecosistema ma sulla pura performance del silicio. ZML è una startup, e la strada per impensierire un gigante da migliaia di miliardi è lunga. Ma ogni crepa nel monopolio software è una crepa in più per chi ha bisogno di infrastrutture AI flessibili e realmente sovrane.