Quando Dario Amodei ha affermato che nei modelli closed source «non si può vedere dentro il modello», la replica della community open source non si è fatta attendere. L’accusa, condensata in un post su Reddit, ribalta la prospettiva: non solo gli open weight sono trasparenti, ma esiste un intero ecosistema di soluzioni che permettono di addestrare, raffinare ed eseguire LLM senza passare dal cloud. Una questione che va ben oltre il battibecco tra esperti e tocca corde sensibili per chiunque stia valutando il deployment on-premise.

Il cuore della polemica: trasparenza non è solo codice

Amodei sosteneva che la differenza tra modelli aperti e chiusi sta nella visibilità dei pesi. «Con Claude non puoi vedere i pesi, ma con GLM 5.2 sì», ribatte l’autore del post citando un esempio concreto. L’osservazione è banale per molti addetti ai lavori, ma scoperchia un equivoco di fondo: l’open source applicato agli LLM non è solo questione di codice, ma di architetture trasparenti e riproducibili. Modelli come Nemotron3 Ultra, ricorda il post, vanno oltre e pubblicano dataset, script di training e checkpoint completi, offrendo un livello di auditing e personalizzazione impossibile per le API proprietarie.

Quello che Amodei ha ignorato: dai MoE ai modelli densi eseguibili in locale

L’idea che «alla fine devi per forza ospitarlo nel cloud» è la seconda criticità evidenziata. Il post cita esplicitamente i modelli MoE più compatti e i modelli densi come Qwen 27B. Quest’ultimo, con i suoi 27 miliardi di parametri, rientra in una fascia di VRAM gestibile da workstation equipaggiate con GPU consumer di alta fascia o schede professionali entry-level, senza richiedere cluster di calcolo. Non solo: la vivacità del fine-tuning su modelli aperti dimostra, contrariamente a quanto affermato da Amodei, che il lavoro collettivo «additivo» produce miglioramenti reali e misurabili in termini di accuratezza, latenza e dominio-specificità.

Ospitare localmente non è un miraggio

La possibilità di eseguire inference senza cloud sta progressivamente ridisegnando il panorama dell’adozione enterprise. La scelta di mantenere i modelli on-premise tocca variabili strategiche come la sovranità dei dati, la latenza e la prevedibilità dei costi. Un modello come Qwen 27B, oppure varianti quantizzate di Llama, abbatte le barriere hardware e sposta l’equilibrio del TCO verso soluzioni self-hosted. Per chi valuta il deployment on-premise, i trade-off restano significativi – manutenzione, scalabilità, competenze interne – ma l’esistenza di modelli apertamente condivisi rende l’opzione meno teorica e più concreta di quanto i vendor cloud vogliano far credere.

La partita vera: sovranità e controllo dell’infrastruttura

Al netto delle polemiche, la presa di posizione di Amodei è sintomatica di una narrativa che contrappone comodità del cloud a complessità del self-hosted. Eppure, proprio la diffusione di LLM aperti e snelli sta cambiando le carte in tavola, offrendo a organizzazioni regolamentate – banche, sanità, difesa – la possibilità di mantenere i dati nei propri datacenter senza rinunciare alle capacità generative. La vicenda mostra quanto sia fuorviante considerare l’AI open source un mero esercizio accademico, quando invece rappresenta un pilastro su cui costruire strategie di deployment che mettano al primo posto il controllo e la resilienza. Per chi vuole approfondire l’analisi dei trade-off tra cloud e on-premise, esistono framework analitici che aiutano a valutare le scelte in base a vincoli reali di hardware e compliance, ma la decisione finale resta legata alla maturità tecnica dell’organizzazione.