Portare il liquido refrigerante a contatto diretto con il die di una GPU non è una novità per i sistemi enterprise, ma vederlo realizzare in casa con una scheda consumer del 2019 come la GeForce RTX 2060 Super fa girare la testa. Un modder — la cui identità resta avvolta nel nickname — ha stampato in 3D un water block su misura, ha rimosso l’IHS (la piastra metallica che protegge il chip) e ha fatto scorrere il fluido proprio sul silicio nudo. Il risultato, documentato su Tom’s Hardware, è un carico termico che crolla a 28°C dopo le inevitabili perdite iniziali. Un delta termico che, per una GPU con 2176 CUDA core e 8 GB di GDDR6, è semplicemente notevole.

Dietro la curiosità da smanettoni c’è una lezione per chi oggi spinge l’inference di modelli LLM su macchine locali. L’RTX 2060 Super, pur non essendo una scheda recente, resta in grado di eseguire modelli quantizzati a 7 miliardi di parametri con una finestra di contesto ridotta. Il vero collo di bottiglia, in questi scenari, è spesso la gestione termica: dopo pochi minuti di generazione testo, il clock della GPU viene tagliato per evitare il surriscaldamento, e la latenza sale. Un raffreddamento diretto come quello sperimentato dal modder cambia le carte in tavola: elimina l’interfaccia termica dell’IHS, aggirando uno strato di resistenza che nelle soluzioni stock assorbe parecchi gradi. Tradotto: potenza sostenuta senza throttling, silenziosità e la possibilità di stipare più schede in spazi ridotti — tutti ingredienti che fanno gola a chi vuole costruire piccoli nodi di inference on-premise.

Il rovescio della medaglia è l’affidabilità. Le perdite iniziali raccontano di un percorso non lineare: far aderire un blocco stampato in 3D al die senza guarnizioni o collanti che si degradino col calore è tutt’altro che banale. Per un laboratorio che gestisce richieste in produzione, anche un solo goccio di refrigerante su una scheda madre può tradursi in ore di downtime. La stampa 3D, inoltre, porta con sé tolleranze dimensionali che nessun CNC industriale si sognerebbe di accettare. Eppure, proprio questa accessibilità apre uno spiraglio: man mano che le stampanti a resina migliorano e i materiali diventano più resistenti alla temperatura, soluzioni di raffreddamento custom potrebbero diventare un asset per i system integrator che operano al confine tra consumer e prosumer.

Cosa segnala questo esperimento a livello strutturale? Che il divario tra hardware enterprise e componenti consumer continua a ridursi, ma il campo di battaglia si sposta sull’ingegneria di sistema. Schede video economiche, abbinate a una meccanica dei fluidi spinta, possono raggiungere densità termiche paragonabili a quelle di un rack da datacenter, solo molto più silenzioso. Nel contesto della sovranità dei dati e del self-hosting, dove il rumore e il calore sono spesso nemici numero uno in ufficio o in casa, soluzioni come questa potrebbero non restare relegate ai forum di appassionati. Per chi valuta deployment on-premise di LLM, il trade-off tra costo dell’hardware, complessità del raffreddamento e manutenzione correttiva si fa più interessante — e AI-RADAR segue da vicino l’evoluzione di questi profili termici nei propri framework analitici.

L’esperimento del modder, infine, getta una luce su un principio dimenticato: l’innovazione parte spesso dal basso, con pezzi di ricambio non pensati per coesistere. Che poi quei pezzi, qualche anno dopo, diventino un riferimento per rack locali a basso costo è una possibilità non così fantascientifica.