Un titolo secco, apparso su Reddit, riporta al centro una questione che nel mondo dei LLM non è mai stata davvero chiusa: «Closed source AI is more dangerous than open source AI». La frase che lo accompagna è altrettanto netta: la sicurezza per oscurità non è una forma di sicurezza.

L'argomento non è nuovo, ma arriva in un momento in cui i modelli si spostano dai laboratori alle infrastrutture aziendali. Quando un LLM viene distribuito come API chiusa, l'organizzazione che lo adotta non ha accesso ai pesi, non può verificare il codice di inference né ricostruire la pipeline di training. Può solo fidarsi del fornitore. In ambito sicurezza, questa fiducia è un punto singolo di fallimento: un difetto non documentato, una modifica al comportamento del modello o una dipendenza compromessa restano invisibili fino a quando non producono danno.

Chi difende i modelli chiusi sostiene che il controllo centralizzato consente ai vendor di applicare patch e policy più rapidamente. Ma questo vantaggio operativo ha un costo strutturale: sposta il rischio dal cliente al fornitore, senza eliminarlo. Se il fornitore subisce un incidente, cambia i termini di servizio o viene acquisito, l'azienda che ha costruito i propri flussi su quell'API si trova senza leve di intervento.

La tesi ha implicazioni di secondo ordine per chi valuta deployment on-premise o self-hosted. Un modello aperto non è automaticamente sicuro, ma è verificabile. Un team può ispezionare i pesi, eseguire audit delle dipendenze, applicare quantization e fine-tuning su dati proprietari e mantenere il controllo della residenza dei dati. Questo non azzera i rischi: introduce complessità di gestione, richiede competenze interne e hardware adeguato in termini di VRAM e capacità di calcolo. Ma trasforma la sicurezza da promessa contrattuale a processo interno.

Il punto strutturale è un altro: l'opacità dei modelli chiusi sta diventando un criterio di procurement negativo in settori regolati o con requisiti di sovranità del dato. Le normative sulla protezione dei dati e i framework di audit spingono le aziende a chiedere non solo che un modello funzioni, ma anche come funziona. Per i vendor, questo segnala che il vantaggio competitivo basato sul segreto dei pesi ha un costo reputazionale e contrattuale crescente.

In questo scenario, chi valuta un deployment on-premise di LLM deve confrontare questi fattori con i vincoli di TCO, VRAM e manutenzione. AI-RADAR offre framework analitici su /llm-onpremise per leggere questi trade-off senza scorciatoie.

La chiusura resta una scelta legittima per chi privilegia la rapidità di adozione. Ma presentarla come più sicura solo perché il codice non è visibile è un errore. La sicurezza non è assenza di accesso: è capacità di verifica.