La notizia non è il modello, ma il protocollo. CrowdGPT 2.6, aggiornamento di un progetto open source nato per addestrare un LLM da un miliardo di parametri fuori dai datacenter, porta con sé un numero che da solo spiega il cambio di prospettiva: 4,5 miliardi di token processati in sei giorni. Secondo l'autore, è circa quello che era riuscito ad addestrare in due mesi sulla propria GPU personale. Non è una vittoria sui datacenter, ma un segnale che il training distribuito su hardware consumer inizia ad avere contorni concreti.

Il progetto punta a un modello collaborativo e aperto, in cui chiunque possa usare il proprio PC per addestrare una parte del modello e aggregare i contributi al modello globale. La versione 2.6 interviene soprattutto su un punto che nei sistemi distribuiti tende a essere più critico della potenza di calcolo: la fiducia. Vengono introdotti controlli lato server, una logica di firma crittografica per gli aggiornamenti del client e, soprattutto, cross-check bizantini tra i client. In pratica, la stessa porzione di dati viene elaborata da tre client diversi, con un costo di ridondanza che rende molto più difficile per un attore malevolo inquinare il modello. L'autore stima che un client ostile possa ora addestrare su una quota limitata di dati malevoli per round prima di essere escluso, contro una libertà totale nella versione precedente.

Questo meccanismo non crea un framework di federated learning perfetto, come ammette lo stesso autore, ma cambia la natura del problema. Non si tratta più di accumulare teraflop: la sfida diventa verificare i contributi senza centralizzare del tutto il controllo. La firma crittografica, con una chiave presente solo sul dispositivo dell'autore, risponde a un rischio concreto emerso nei feedback: il meccanismo di auto-aggiornamento poteva permettere l'esecuzione di codice arbitrario. In un contesto self-hosted, questo è il genere di vulnerabilità che mina la sovranità dell'utente, perché trasforma un client di training in una porta d'ingresso.

A questo si aggiunge una pipeline di submission dei dati, con un dataset collaborativo già alimentato da 400 kb di testo. I dati vengono verificati e curati prima del training. Il dettaglio è importante: decentralizzare il calcolo non significa automaticamente decentralizzare la governance dei dati. Qui l'ingestione resta ancorata a un punto di controllo centrale, almeno nella fase di curation. È una tensione che chiunque progetti stack locali dovrà affrontare: il training può essere distribuito, ma la qualità e la provenienza del corpus richiedono comunque un filtro.

Sul fronte del modello, l'attivazione degli Engrams sul modello Crowd-v1 punta a migliorare il fact-recalling. Non ci sono benchmark comparativi nella fonte, ma la direzione è coerente con l'idea di un LLM collaborativo pensato per rispondere in modo deterministico. A corollario arriva CrowdBench, un benchmark open source in fase iniziale, dove chiunque può aggiungere domande di intelligenza generale con risposte deterministiche. Anche qui la logica è la stessa: la scala non è l'unica metrica, serve una base di valutazione condivisa e verificabile.

Il progetto lascia aperta una questione strutturale: se il training distribuito su PC consumer può sostenere volumi da miliardi di token, quanto della futura infrastruttura AI resterà legata ai rack dei datacenter? CrowdGPT 2.6 non dà una risposta definitiva, ma sposta il confronto dai chip alla governance.