Un modello da un miliardo di parametri addestrato senza datacenter e senza i budget milionari delle grandi società di AI: è la scommessa di CrowdGPT, progetto che punta a costruire un LLM collaborativo usando i PC dei partecipanti come base di calcolo. L'iniziativa, presentata dallo sviluppatore su Reddit, è volutamente aperta: chiunque può addestrare il modello in autonomia e poi aggiungere il proprio contributo al modello globale. A differenza di molte iniziative statunitensi e cinesi, il progetto pubblica sia i pesi sia il 100% dei dati di addestramento e permette a chiunque di proporre dati puliti o di influenzare la direzione.

La prima lettura è semplice: un modello con un miliardo di parametri oggi resta lontano dai modelli di frontiera. Ma CrowdGPT non nasce per competere sulla scala: lo stesso sviluppatore lo descrive come proof of concept. Il punto è un altro: testare se l'addestramento distribuito può diventare un'alternativa credibile al modello centralizzato, non solo sul fronte dei costi, ma soprattutto sul controllo dei dati e dei pesi.

Qui emerge un problema che chi valuta deployment on-premise conosce bene: il collo di bottiglia non è soltanto la potenza di calcolo, ma il coordinamento e la fiducia. Addestrare un LLM su PC consumer eterogenei, con schede grafiche diverse e connessioni non uniformi, comporta costi di sincronizzazione e il rischio di contributi malevoli o dati sporchi. CrowdGPT sposta il costo del training dal conto del cloud al tempo GPU dei volontari: è un TCO distribuito, ma con una complessità di governance che un datacenter controllato non ha.

Non è un dettaglio secondario che lo sviluppatore chieda espressamente se le persone siano disposte a donare tempo GPU o se pretendano qualcosa in cambio, come crediti di inference gratuiti sul modello. È il nodo strutturale: un progetto del genere regge solo se allinea incentivi, trasparenza dei contributi e capacità di verificare che ogni aggiornamento porti davvero un miglioramento. In caso contrario rischia di restare un esperimento interessante ma non scalabile.

Se CrowdGPT riuscisse anche solo in parte, il segnale per il settore sarebbe duplice. Da un lato mostrerebbe che una parte della comunità tecnica cerca modelli con dataset e pesi aperti, non solo API proprietarie. Dall'altro normalizzerebbe l'idea che l'addestramento non debba essere per forza concentrato nei data center di pochi fornitori. I beneficiari più immediati sarebbero gruppi di ricerca piccoli, sviluppatori indipendenti e organizzazioni attente alla sovranità dei dati; chi ci perderebbe, nell'immediato, sono i fornitori che vendono accesso API e infrastruttura proprietaria, anche se il divario prestazionale resta ampio. Per chi valuta deployment on-premise, il caso è utile come esperimento di governance più che come modello pronto: AI-RADAR propone framework analitici su /llm-onpremise per valutare questi trade-off.