La promessa è ormai nota: i modelli open source costano meno, offrono più controllo e non vincolano a un singolo fornitore. Ma la domanda posta dal policy chief di Hugging Face è più scomoda: se i modelli diventano beni quasi gratuiti, dove si costruisce davvero valore? La risposta non sta nel modello, ma in ciò che gli sta intorno: dati, integrazione, operatività e responsabilità sull'infrastruttura.

L'ingresso di imprese, governi e startup nell'open source AI non segnala solo una preferenza tecnica. Segnala uno spostamento strutturale. Quando il costo di accesso a un LLM si abbassa, la differenziazione si sposta a valle: chi gestisce il deployment, chi garantisce la conformità, chi trasforma un modello generico in un servizio affidabile. Per molte organizzazioni questo significa internalizzare competenze che prima erano delegate a un'API cloud. Il risparmio sulla licenza può tradursi in maggiore spesa per ingegneri, manutenzione e sicurezza.

Il punto è che l'open source non elimina il costo, lo sposta. Un modello scaricabile non è un sistema in produzione. Servono VRAM sufficiente, scelte di quantization, pipeline di inference e aggiornamenti continui. Il TCO reale include voci che non compaiono nella fattura del fornitore: energia, raffreddamento, presidio operativo. Per chi valuta il self-hosted, il trade-off non è tra gratuito e a pagamento, ma tra controllo e complessità.

La pressione dei modelli open source cinesi aggiunge un secondo livello. Se i modelli americani non riescono a mantenere un vantaggio qualitativo, la concorrenza si sposta sulla capacità di orchestrarli e renderli utilizzabili in contesti regolati. Le organizzazioni pubbliche, in particolare, guardano all'open source anche per ragioni di sovranità dei dati: un modello eseguibile localmente permette di tenere i dati dentro i propri confini, un vincolo che i servizi cloud non sempre soddisfano.

Su AI-RADAR il confronto tra on-premise e cloud passa anche dalla sezione /llm-onpremise, dove i trade-off di deployment vengono letti in termini di TCO e architettura, non di semplice preferenza.

Questo non è un dibattito astratto sul software libero. È una domanda su chi sopporta il rischio tecnico e legale quando un modello entra nei processi aziendali. La risposta determinerà se l'open source resterà una scorciatoia economica o diventerà l'architettura di default per chi non può permettersi dipendenze esterne.