Baseten ha presentato mercoledì, insieme alla divisione di ricerca Base Labs, una nuova infrastruttura standard per la sicurezza dei modelli open-weight. La collaborazione con Hugging Face e Goodfire AI punta a costruire strumenti di valutazione e monitoraggio della sicurezza, proprio mentre il dibattito sui modelli abliterati si fa più aspro. Hugging Face, che ospita modelli open source, ne elenca oggi oltre 6.000 nella categoria abliterated.

L'abliteration non è un semplice attacco via prompt. È una tecnica che interviene direttamente sui pesi di un LLM per disattivare i meccanismi di rifiuto, trasformando un modello allineato in una variante senza censure. Poiché i modelli open-weight possono essere scaricati e modificati in locale, il rischio non è confinato agli endpoint cloud: un modello abliterato che gira su hardware self-hosted non passa dai sistemi di moderazione del provider e produce risposte senza filtri. Questo rende il problema particolarmente rilevante per chi gestisce LLM on-premise, dove la responsabilità della sicurezza ricade sull'organizzazione che esegue l'inference.

L'annuncio di Baseten e Hugging Face non si traduce, almeno per ora, in un divieto. Ma il messaggio è strutturale: la sicurezza dei modelli aperti sta diventando un problema di infrastruttura. Non basta più controllare i dataset o le API; serve una valutazione continua che guardi ai pesi e ai comportamenti generati dopo interventi come l'abliteration. La scelta di definire 'pericolosi' i modelli senza censura nella comunicazione della partnership ha però un effetto di secondo ordine: crea le premesse per standard di conformità che potrebbero rendere più difficile la distribuzione di varianti abliterate, anche quando nascono da ricerca o da esigenze legittime di personalizzazione.

Questo passaggio interessa da vicino chi valuta stack locali. Un'azienda che scarica un modello open-weight, lo modifica e lo esegue in un ambiente isolato non ha oggi un riferimento univoco per verificare se l'intervento ha introdotto nuovi rischi. Gli strumenti annunciati potrebbero colmare quel vuoto, ma spostano anche il potere di definire cosa è 'sicuro' verso chi costruisce l'infrastruttura di valutazione. È una dinamica già vista nei mercati infrastrutturali: prima si standardizza, poi si governa.

C'è infine un nodo di sovranità: valutare un modello senza inviarlo a servizi esterni richiede tooling che giri in locale, una necessità che cresce con la diffusione di deployment air-gapped e on-premise. Per chi valuta deployment on-premise, AI-RADAR offre framework analitici sui trade-off tra controllo locale e integrazione con servizi di sicurezza esterni, ma la scelta dipende dal contesto operativo. La partita, insomma, non è più solo se un modello è aperto: è chi controlla la verifica della sua sicurezza.