George Hotz non ha mai nascosto la diffidenza verso i componenti che non si possono ispezionare. Con Comma.ai e Tinygrad ha annunciato due dock che trasformano una porta USB4 in un collegamento per acceleratori PCIe Gen4 x4: il Tiny Chestnut, pensato come dock eGPU, e il Chestnut, che arriva già con una AMD Radeon RX 9060 da 8GB di VRAM. Il dettaglio che separa questa notizia da un semplice annuncio hardware è il firmware open source.

Perché il firmware aperto cambia il calcolo

In un dock eGPU tradizionale, il controller che gestisce alimentazione, enumerazione e trasferimenti PCIe è una scatola nera. Chi lo usa non può verificare come il dispositivo negozia il collegamento con il sistema operativo, né se ci sono comportamenti nascosti. La scelta di Comma.ai e Tinygrad sposta il confine dell'apertura: non più solo driver o framework, ma il firmware che sta sotto all'acceleratore. Per un team che valuta deployment self-hosted, questo non è un vezzo ideologico. Avere firmware ispezionabile significa poter documentare la catena hardware nei processi di audit e ridurre la dipendenza da un vendor per aggiornamenti e correzioni.

Non ci sono benchmark nella presentazione e la banda di un collegamento PCIe Gen4 x4 passato attraverso USB4 non va paragonata a uno slot x16 interno. Ma per workload di inference su modelli compatti, un nodo locale con 8GB di VRAM può rappresentare un banco di prova a basso costo, soprattutto se abbinato a tecniche di quantization che riducono l'ingombro dei modelli in memoria.

Chi guadagna e chi perde

A beneficiarne sono innanzitutto sviluppatori e sistemisti che costruiscono postazioni locali o laboratori dove la controllabilità conta più del picco prestazionale. La combinazione tra un framework come Tinygrad e un dock con firmware aperto crea un percorso più trasparente dal software all'hardware. A rimetterci potenzialmente sono i produttori di enclosure e controller proprietari, che devono ora spiegare perché il loro firmware non può essere aperto.

La mossa ha anche un secondo effetto: normalizza l'idea che l'apertura nell'AI non debba fermarsi ai pesi dei modelli o alle librerie di inference, ma possa estendersi ai componenti fisici che li eseguono. Resta un limite evidente: il firmware aperto non rende automaticamente aperto il driver della GPU, che per le schede consumer resta un elemento proprietario. È proprio questa tensione, più delle specifiche del dock, a rendere l'annuncio interessante per chi osserva l'evoluzione dell'hardware AI locale.