Quando sei big dell’AI firmano un codice di trasparenza europeo, la notizia non è l’adesione in sé, ma il fatto che il patto si allarghi ai modelli eseguibili localmente. Anthropic, OpenAI, Google, Meta, Microsoft e Mistral hanno accettato le regole del nuovo Codice di Condotta UE sulla tracciabilità dei contenuti generativi: una mossa che segna un passaggio strutturale, perché porta l’obbligo di watermark fin dentro il server aziendale, l’edge device o il cluster on-premise. Non sarà più una questione confinata alle API cloud.

Il punto centrale è che anche i modelli open source e locali di queste aziende dovranno incorporare tecniche di marcatura per testo e codice generati. Meta, per esempio, ha già aperto alla comunità con Llama; ora l’impegno preso in sede UE fa sì che le future versioni — e probabilmente anche le distribuzioni esistenti, via aggiornamento — integrino watermark in fase di inference. Non è più un add-on opzionale, ma un requisito normativo in arrivo, considerando il ruolo che il Codice di Condotta gioca come precursore dell’AI Act.

Filigrana senza cloud: la sfida tecnica e il peso sull’infrastruttura locale

Per chi ha scelto l’on-premise per ragioni di sovranità dei dati, o per tenere sotto controllo la latenza e i costi operativi, la prospettiva non è banale. Applicare un watermark a ogni token generato richiede l’aggiunta di un modulo software — tipicamente una libreria condivisa o un livello intermedio nel serving stack — che modifichi le probabilità di output del modello secondo pattern statistici impercettibili all’utente, ma rilevabili dall’esterno. In un setup self-hosted, questo significa che l’amministratore di sistema dovrà garantire la presenza e l’integrità del componente di marcatura, senza impattare la latenza di inference più del dovuto.

Il carico computazionale non è necessariamente elevato (si tratterebbe di alterare leggermente la distribuzione dei token, operazione a costo costante), ma introduce una superficie di attacco e una dipendenza software in più. Inoltre, apre un interrogativo: cosa succede quando un’organizzazione modifica il modello con fine-tuning per i propri dati? Il meccanismo di watermark deve essere resiliente all’addestramento ulteriore, altrimenti perde efficacia. I firmatari si sono impegnati a sviluppare tecniche robuste, ma la verifica in contesti locali sarà complicata.

La posta in gioco va oltre la conformità. L’estensione alla sfera locale indica che il legislatore non intende lasciare zone franche: l’AI generativa è considerata abbastanza pervasiva da richiedere trasparenza ovunque venga eseguita. Per le grandi imprese, questo sposta il confine della compliance: non basterà più scegliere un provider cloud certificato; bisognerà mettere in conto la tracciabilità anche nei data center proprietari. Chi sviluppa fork open source che rimuovono il watermark va incontro a un rischio legale crescente, creando di fatto una biforcazione tra ecosystem conformi e non, con il mercato enterprise che inevitabilmente graviterà sui primi.

In casa AI-RADAR seguiamo da vicino l’evoluzione dei framework di inference e degli stack di deployment: l’integrazione nativa di meccanismi di watermark nei runtime on-premise sarà presto un fattore discriminante nelle valutazioni TCO e di architettura. Non è più solo questione di GPU e VRAM, ma di come il software di serving gestisce l’intero ciclo di responsabilità del modello.