Z.ai ha reso noto di essere in difficoltà a causa della scarsità di GPU disponibili. La comunicazione è apparsa su Reddit, in un post che sottolinea le difficoltà di molte aziende nell'accedere alle risorse di calcolo necessarie per i carichi di lavoro di intelligenza artificiale, in particolare per l'inference e l'addestramento di modelli di linguaggio di grandi dimensioni.

La difficoltà di accesso alle GPU è un problema crescente nel settore dell'AI, con la domanda che supera l'offerta. Questo può impattare negativamente sulla capacità delle aziende di sviluppare e implementare soluzioni basate sull'AI, specialmente per quelle che non possono permettersi le infrastrutture cloud più costose. Per chi valuta deployment on-premise, esistono trade-off da considerare, come evidenziato dai framework analitici di AI-RADAR su /llm-onpremise.

La situazione evidenzia l'importanza di valutare attentamente le opzioni di deployment e le architetture hardware per ottimizzare i costi e garantire la sovranità dei dati.