Kate ha documentato un intervento che, più che un upgrade, sembra un esperimento di reverse engineering. La scheda di mining CMP 170HX arriva sul mercato con 8 GB di HBM utilizzabili, ma il silicio ne contiene circa 80, disattivati da fusibili. Con i soli unlock software alcuni erano già riusciti a portare la capacità visibile a 64 GB. Kate ha usato il voltage fault injection per superare il blocco e ha riattivato un numero di streaming multiprocessor compreso tra 120 e 126, contro i 108 che NVIDIA abilita sulle A100 retail. Il risultato è un incremento in FP16 da 72,5 a 85,9 TFLOPS, con 80 GB pieni disponibili per l'inference. Tornano anche NVLink e PCIe Gen4, disabilitati nella versione mining.

Per chi oggi fa inference LLM on-premise, il dato da osservare non è solo il benchmark: è la conferma che la VRAM è la risorsa artificialmente più contenuta. Con 80 GB di HBM si possono ospitare modelli più grandi senza spingerli verso quantization aggressiva, e si beneficia di una bandwidth che rende più fluida la generazione dei token. Ma qui finisce la parte interessante per il deployment: la procedura non è replicabile in produzione. Servono cablaggi sulla scheda, un glitcher basato su STM32 e da 1 a 48 ore di tentativi per singola unità; su dieci schede trattate, una aveva comunque solo 64 GB funzionanti. Il rischio di brickare l'hardware è reale, e il guadagno di capacità non è omogeneo.

L'aspetto strutturale è più rilevante del singolo mod. NVIDIA segmenta lo stesso die commerciale con fusibili, non con silicio diverso, per dividere i prodotti tra mining, data center e workstation. Questo rende l'offerta più efficiente dal punto di vista produttivo, ma crea anche un incentivo a scavare nella parte disattivata. Il mod di Kate dimostra che il confine tra una scheda da mining e una A100 non è fisico, ma decisionale. Per chi progetta infrastrutture di calcolo on-premise, il messaggio non è 'fate voltage glitching': il TCO di un parco schede modificate è incalcolabile per via dei tassi di riuscita e della mancanza di supporto. Il messaggio, piuttosto, è che il mercato esprime una domanda chiara di VRAM abbondante per l'inference locale, e che le politiche di fusibile finiscono sotto osservazione.

Va anche considerato il problema dell'omogeneità: se una scheda su dieci resta a 64 GB, qualsiasi cluster costruito su queste basi avrebbe capacità variabile e difficile da pianificare. Chi valuta un deployment self-hosted di LLM non ha bisogno di soluzioni estreme; ha bisogno di schede con specifiche prevedibili e consumi misurabili. Su AI-RADAR teniamo traccia dei framework per confrontare queste architetture su /llm-onpremise. Resta il fatto che l'operazione di Kate è, insieme, una lezione di elettronica e un sintomo: sotto le etichette commerciali delle GPU, c'è una riserva di silicio che qualcuno, giustamente o meno, vuole rendere utilizzabile.