Un appassionato sta progettando un server AI domestico e desidera installare otto GPU. Il problema principale risiede nel numero limitato di slot PCIe disponibili sulle schede madri, in particolare quelle con socket FCLGA4710, che spesso non superano i sei slot.

Riser e Connessioni Alternative

Per superare questa limitazione, si esplora l'utilizzo di riser. I riser permettono di collegare le GPU alla scheda madre tramite connessioni alternative, potenzialmente anche tramite USB. La discussione mira a chiarire come questi componenti funzionino insieme per espandere il numero di GPU supportate.

Considerazioni sull'Hardware

La configurazione di un sistema con un elevato numero di GPU richiede un'attenta pianificazione dell'alimentazione e del raffreddamento, oltre alla gestione dello spazio fisico all'interno del server. L'uso di riser può anche influire sulle prestazioni delle GPU, a seconda della larghezza di banda disponibile e della qualità dei componenti utilizzati. Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente (vedi /llm-onpremise su AI-RADAR).