C2i raccoglie finanziamenti per l'efficienza energetica nell'AI

C2i, una startup indiana, ha ottenuto un finanziamento di 15 milioni di dollari per affrontare le sfide legate al consumo energetico nei data center che supportano carichi di lavoro di intelligenza artificiale. L'azienda sta sperimentando un approccio innovativo, definito "grid-to-GPU", che mira a minimizzare le perdite di potenza nel trasferimento di energia dalla rete elettrica alle GPU.

Il problema del consumo energetico nei data center AI

L'addestramento e l'inference di modelli di AI, in particolare i modelli linguistici di grandi dimensioni (LLM), richiedono una notevole quantità di potenza di calcolo. Questo si traduce in un elevato consumo energetico nei data center, che può rappresentare un costo significativo e un impatto ambientale non trascurabile. Ottimizzare l'efficienza energetica è quindi una priorità per le aziende che sviluppano e utilizzano soluzioni di AI.

Per chi valuta deployment on-premise, esistono trade-off significativi tra costi iniziali (CapEx) e operativi (OpEx), inclusi i consumi energetici. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi trade-off.