Quando l’infrastruttura di condivisione modelli Hugging Face è stata colpita da un’intrusione, le aziende che utilizzano intelligenza artificiale si sono trovate di fronte a un bivio inaspettato. Da un lato, i fornitori di modelli closed – dove i pesi della rete neurale sono inaccessibili – non potevano offrire alcuna trasparenza. Dall’altro, un modello frontier rilasciato con pesi aperti ha permesso ai team di sicurezza di ricostruire l’attacco e contenerlo.

Lo ha dichiarato Jensen Huang, CEO di Nvidia, in un post su X che ha acceso il dibattito su sicurezza e sovranità tecnicica. “During the Hugging Face incident, closed AI blocked essential forensics. An open-weight frontier model helped contain the intrusion. That’s why we created the Open Secure AI Alliance”, ha scritto, annunciando la nascita di un consorzio dedicato a rafforzare la postura di sicurezza dei modelli aperti.

La vicenda ribalta un luogo comune: spesso si pensa che i modelli closed, custoditi dietro API proprietarie, offrano maggiori garanzie perché gestiti da vendor specializzati. In realtà, l’opacità dei pesi impedisce qualsiasi verifica forense. L’insieme dei parametri rimane una scatola chiusa: i responsabili IT non possono ispezionare come il modello elabora i prompt, quale porzione della rete sia stata alterata o se le attivazioni anomale siano sintomo di un avvelenamento dei dati. In un contesto on-premise, dove la sicurezza passa per la capacità di audit, questa differenza diventa strutturale.

L’Open Secure AI Alliance parte con l’obiettivo di dotare i modelli open-weight di strumenti di sicurezza enterprise-grade: scanning delle vulnerabilità, firma dei pesi, policy di distribuzione verificabili. Per chi gestisce deployment on-premise, in particolare in settori regolati o dove i dati devono restare fisicamente sotto controllo, avere un modello che si può ispezionare dopo un incidente non è un optional ma un requisito di conformità.

Sul piano industriale, l’iniziativa ha un sapore che va oltre la security. Nvidia, principale fornitore di GPU per l’inference locale, ha tutto l’interesse a dimostrare che i modelli aperti non sono meno sicuri di quelli chiusi. E le aziende che investono in infrastruttura on-prem, magari con cluster di H100 o futuri B200, possono ora mettere sul piatto un argomento forte: la trasparenza dei pesi consente di non dipendere da un vendor per le indagini dopo un attacco.

Non è una questione solo tecnica. Le normative europee sulla protezione dei dati spingono verso il controllo documentabile di ogni componente software che processa informazioni personali. Un modello chiuso che rifiuta l’analisi forense potrebbe diventare un problema legale, non solo operativo. Ecco perché l’incidente di Hugging Face, pur dettagliato solo in parte, funziona da cartina di tornasole: ha mostrato che l’asimmetria tra open e closed non riguarda solo i costi di licenza, ma la possibilità stessa di difendere i propri sistemi.