Raffreddamento a liquido per l'AI: JetCool e Broadcom insieme

JetCool ha annunciato una collaborazione con Broadcom per lo sviluppo di soluzioni di raffreddamento a liquido specificamente progettate per i chip utilizzati in applicazioni di intelligenza artificiale. La partnership mira ad affrontare le sfide poste dall'aumento della densità di potenza nei moderni processori AI.

Il raffreddamento a liquido sta diventando una necessità per i sistemi AI ad alte prestazioni, in quanto consente di dissipare il calore in modo più efficiente rispetto ai metodi tradizionali basati sull'aria. Questo è particolarmente importante per i chip che alimentano modelli di linguaggio di grandi dimensioni (LLM) e altre applicazioni di deep learning, dove la potenza di calcolo richiesta è in costante crescita.

Per chi valuta deployment on-premise, esistono trade-off tra CapEx e OpEx da considerare. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.