NTT DATA ha annunciato una nuova iniziativa per fornire piattaforme basate su tecnicia NVIDIA, progettate per offrire alle aziende un modello ripetibile e pronto per la produzione per scalare le proprie iniziative di AI.

L'offerta integra le GPU NVIDIA, il networking ad alte prestazioni e il software NVIDIA AI Enterprise, inclusi NeMo e NIM Microservices, in una piattaforma AI completa che può essere implementata in ambienti cloud ed edge. L'architettura copre l'intero ciclo di vita dell'AI, dall'addestramento dei modelli allo sviluppo di applicazioni enterprise, all'interno di un framework controllato.

Abhijit Dubey, CEO di NTT DATA, ha dichiarato che sta cambiando il modo in cui le aziende affrontano il deployment dell'AI: "Integrando le tecnicie NVIDIA nelle nostre fabbriche AI enterprise, stiamo offrendo ai clienti un ambiente potente e sicuro per adottare l'AI con ritorni misurabili fin dall'inizio".

Casi d'uso reali

NTT DATA afferma che il modello di fabbrica AI enterprise affronta una lacuna che ha bloccato molti programmi di AI: la distanza tra un progetto pilota di successo e un sistema di produzione funzionante. La piattaforma è progettata per standardizzare l'output e ridurre i tempi e i costi per passare dal proof-of-concept al deployment operativo.

Tre casi iniziali forniscono un framework più chiaro delle fabbriche AI enterprise:

  • Un importante ospedale di ricerca sul cancro sta utilizzando piattaforme NVIDIA HGX, con NTT DATA e Dell, per l'analisi avanzata di radiologia e la valutazione rapida dei modelli a supporto dei flussi di lavoro della ricerca clinica.
  • Nella produzione automotive, un fornitore globale ha ridotto i tempi di setup della produzione convalidando i carichi di lavoro su bare metal prima di scalare attraverso un'architettura di fabbrica AI su infrastruttura NVIDIA.
  • Un terzo deployment, nel manifatturiero tecnicico, coinvolge una società statunitense che utilizza la simulazione accelerata da NVIDIA e la visualizzazione 3D per convalidare una linea di produzione di batterie di nuova generazione prima del deployment fisico.

NTT DATA sta posizionando le fabbriche AI enterprise come un modello di delivery specifico per dominio, con lo stack NVIDIA che funge da infrastruttura comune sottostante alla personalizzazione settore per settore.

NeMo e NIM nello stack della fabbrica AI

L'integrazione tecnica comprende due componenti NVIDIA. NVIDIA NeMo è una suite per la costruzione di sistemi AI su infrastrutture accelerate da GPU. NVIDIA NIM Microservices fornisce container pre-costruiti e ottimizzati per GPU con API per il deployment di applicazioni AI. Insieme, formano quella che NTT DATA descrive come una piattaforma AI completa e pronta per la produzione.

NTT DATA offre anche prototipi GenAI pre-qualificati costruiti su questo stack, che a suo dire riducono la complessità e accelerano il time to value per i clienti che sviluppano applicazioni specifiche per settore.

John Fanelli, Vice President of Enterprise Software di NVIDIA, ha dichiarato: "Le aziende sono ora alla ricerca di piattaforme robuste e scalabili che possano trasferire con successo le loro iniziative di AI dai progetti pilota alla produzione su vasta scala". Ha affermato che le offerte di fabbrica AI di NTT DATA forniscono ai clienti le soluzioni specifiche per dominio necessarie per raggiungere l'AI enterprise di livello produttivo.

NTT DATA si descrive come l'unico fornitore globale di servizi IT attivo in tutte e tre le aree partner di NVIDIA: Solution Provider, Cloud Partner e Global System Integrator Partner Network.

Il recente annuncio arriva mentre le aziende devono affrontare una crescente pressione per dimostrare i ritorni finanziari sulla spesa per l'AI. La governance e le prestazioni specifiche per dominio sono ora i criteri in base ai quali vengono valutati gli investimenti in AI enterprise e il modello di fabbrica AI è un tentativo di rendere tutti e tre più sistematici.

Per chi valuta deployment on-premise, esistono trade-off da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.