Il cuore della disponibilità delle GPU NVIDIA non è solo la capacità delle fabbriche, ma la capacità di decidere ogni settimana dove allocare componenti che arrivano da migliaia di fornitori. Per questo NVIDIA ha costruito un centro di comando chiamato Digital Supply Chain Intelligence su Palantir Foundry, con cuOpt come motore di ottimizzazione. La parte meno raccontata è che accanto all’ottimizzazione simbolica c’è un LLM open-weight, Nemotron 3.5 Lightning, affinato su due B200 in pochi minuti per leggere i segnali non strutturati che i pianificatori umani già usano: telefonate con i fornitori, previsioni meteo, email, eventi geopolitici.

Il vincolo fisico è concreto: un rack Grace Blackwell NVL72 contiene 18 vassoi di calcolo, ognuno con due CPU Grace, quattro GPU Blackwell e 32 package HBM3e. L’assemblaggio non parte finché i componenti non arrivano da tre canali: inventario diretto, stock in conto deposito e fornitori esterni. I ritardi su un singolo componente allungano quello che NVIDIA chiama Time of Ownership, il tempo tra la ricezione dei materiali e la spedizione dei sottoassiemi finiti. Non è una questione di velocità della logistica, ma di coerenza tra vincoli fisici e priorità commerciali. Le allocazioni vengono riviste ogni settimana su orizzonti trimestrali mobili.

cuOpt, libreria open source per l’ottimizzazione su GPU, legge direttamente il livello operativo modellato dall’Ontology di Foundry. Formula il problema come mixed-integer linear programming che minimizza il Time of Ownership, valutando vincoli su ogni livello della distinta base. Oltre a produrre piani settimanali, segnala limiti attivi come tetti di capacità di assemblaggio regionale o scarsità di memoria.

La programmazione lineare, però, non vede le variabili non strutturate. Per questo NVIDIA ha fatto post-training di Nemotron 3.5 Lightning, modello mixture-of-experts da 30 miliardi di parametri totali e circa 3 miliardi attivi per passaggio. La pipeline passa da NeMo Anonymizer per anonimizzare i record operativi, NeMo Data Designer per bilanciare gli esempi con scenari sintetici di interruzione della capacità, e NeMo AutoModel per applicare LoRA mantenendo congelati i pesi base. Palantir Autopilot governa tracciabilità, monitoraggio e distribuzione dei suggerimenti.

Sui record storici di allocazione il modello affinato raggiunge l’86,7% di accuratezza decisionale, contro il 55,5% del più grande Nemotron 3 Ultra e il 17,5% della versione base. Balanced accuracy e macro-F1 confermano il divario: 58,6% e 57,5% contro 42% e 39,5%. Il fine-tuning si completa in pochi minuti su due GPU B200.

Questo è il punto strutturale: non serve un LLM gigante per decisioni operative ad alta specializzazione. Un MoE da 30 miliardi con 3 miliardi attivi e un fine-tuning mirato batte modelli più grandi, perché il valore non è nella scala dei parametri ma nella qualità dei dati anonimizzati e nella specificità del contesto. In un’organizzazione che produce hardware per l’AI, la scelta di usare un modello open-weight e un processo di training su GPU locali indica una via per i carichi di lavoro sensibili: non mandare i dati operativi in cloud generico, ma costruire un feedback loop governato. NeMo Anonymizer è la spia: la privacy e la conformità non sono un’aggiunta, sono una condizione per usare LLM su dati industriali.

NVIDIA ha già dichiarato che i dati delle decisioni operative, le revisioni dei pianificatori e gli output reali verranno riscritti nell’Ontology. Su questa base costruiranno coppie di preferenze per il reinforcement learning, con modelli di produzione isolati da retraining live. Non è solo disciplina MLOps: è il riconoscimento che un sistema che alloca componenti fisici non può aggiornarsi in produzione senza supervisione. L’accuratezza decisionale può salire, ma il costo di un errore è un rack fermo in fabbrica.

Il caso NVIDIA mostra una direzione chiara per chi valuta deployment on-premise: i framework analitici servono a capire quando conviene combinare ottimizzazione matematica e LLM locali. La supply chain non è più solo logistica: è un banco di prova per l’AI che decide su dati reali, con vincoli fisici e governance esplicita. Per chi valuta deployment on-premise, AI-RADAR mette a disposizione framework analitici su /llm-onpremise per ragionare su trade-off come controllo dei dati, TCO e fine-tuning locale, ma ogni contesto va valutato a sé.