Clément Delangue, CEO di Hugging Face, non crede alla narrazione secondo cui l'intelligenza artificiale avanzata sia destinata a sfuggire al controllo. In una dichiarazione ai media, ha definito il proprio P(Doom) — la probabilità soggettiva di esiti catastrofici — «vicino allo zero». Ma la frase più interessante non è quella numerica: è la spiegazione. Il rischio, secondo Delangue, non starebbe nella tecnicia in sé, ma nel fatto che «la maggior parte del rischio è in realtà creata da un paio di attori che costruiscono a porte chiuse». Il riferimento è alla necessità di un'AI open source.

Questa presa di posizione cambia il centro di gravità del dibattito. Non si discute più se un LLM troppo potente possa diventare pericoloso; si discute se un modello controllato da pochi soggetti, addestrato e distribuito senza visibilità, possa trasformare un'infrastruttura tecnica in un meccanismo di dipendenza. Per chi progetta deployment on-premise o self-hosted, la dichiarazione introduce una variabile che non appare nei benchmark: la struttura proprietaria del fornitore.

Un'azienda che oggi valuta un LLM per processi interni non si limita a confrontare token al secondo, VRAM richiesta o costi di inference. Deve anche chiedersi cosa succede quando un provider cambia condizioni di licenza, ritira un modello o modifica i filtri di sicurezza senza preavviso. In un mercato in cui tutto viene aggiornato rapidamente, la continuità operativa di una pipeline può dipendere da decisioni prese altrove. Questa è la tesi implicita di Delangue: il pericolo non è l'AI in astratto, ma la concentrazione di potere su artefatti non ispezionabili.

C'è però un secondo livello. L'open source non è una garanzia automatica di trasparenza. Anche i modelli con pesi aperti richiedono hardware adeguato, competenze di fine-tuning e procedure di audit. Chi scarica un modello e lo esegue in locale assume su di sé rischi diversi: manutenzione, aggiornamenti di sicurezza, riproducibilità delle versioni. La differenza è che questi rischi sono governabili internamente, mentre un'API chiusa sposta la governance fuori dal perimetro aziendale. Il punto non è che l'open source sia più semplice; è che rende la responsabilità localizzabile.

Questa lettura ha implicazioni strutturali. Se il rischio principale è l'opacità di pochi player, allora gli investimenti in infrastruttura locale — GPU dedicate, storage on-prem, orchestrazione di modelli — diventano anche strumenti di riduzione di un rischio sistemico, non solo voci di TCO. La sovranità dei dati smette di essere un tema legale e si intreccia con la disponibilità dei modelli. Un'organizzazione che addestra o esegue in locale non elimina i fallimenti, ma riduce il numero di attori che possono decidere unilateralmente le regole del gioco.

Resta una tensione. L'industria open source deve ancora dimostrare di saper finanziare la produzione di modelli di frontiera senza riprodurre, al proprio interno, nuove forme di dipendenza da cloud o da hardware. La frase di Delangue non risolve questo nodo, ma lo mette in evidenza: il P(Doom) può essere vicino allo zero se il potere è distribuito, molto meno se resta concentrato in pochi laboratori. Il vero parametro da osservare, per chi costruisce stack locali, non è solo la qualità del singolo modello, ma il livello di controllo che l'architettura di distribuzione lascia a chi la adotta.