La mossa di Anthropic, che dall’11 agosto applicherà un watermark a tutti i futuri modelli Claude, non è solo una risposta all’AI Act europeo. È il segnale che la trasparenza imposta per legge sta entrando nel punto più delicato del processo generativo: la scelta della parola successiva.

Google già usa SynthID-Text sui modelli Gemini e OpenAI ha dichiarato di voler introdurre una soluzione simile. Ma il nodo tecnico è più interessante della scadenza normativa del 2 agosto 2026. Un watermark testuale non è metadato né caratteri invisibili: è una modifica statistica della distribuzione dei token. Un LLM assegna probabilità a ogni possibile parola successiva e campiona in base a quei pesi. Il watermark altera leggermente quei pesi, favorendo parole di una lista verde rispetto a una lista rossa. L’occhio umano non coglie nulla, ma il pattern emerge su sequenze sufficientemente lunghe.

Il punto non è se il testo cambi, ma se l’utilità percepita dall’utente resti intatta. John Kirchenbauer, coautore del paper del 2023 che ha definito il metodo più citato, lo dice in modo netto: senza cambiamento non ci sarebbe watermark. Google ha confrontato feedback su 20 milioni di risposte Gemini e non ha trovato differenze significative tra varianti con e senza watermark. Ma i testi brevi restano il punto debole. Vinu Sankar Sadasivan di Meta spiega che per un tweet di venti parole servirebbe una quota molto alta di termini dalla lista verde, e che il codice generato crea una tensione diretta tra robustezza del segnale e qualità dell’output. La detection di SynthID-Text scende sotto il 50% per risposte corte. Anthropic sostiene che il watermark non cambi la qualità, ma non ha fornito dettagli aggiuntivi.

Il dibattito non si limita all’etichettatura. Se un modello addestrato su testo watermarkato produce output con lo stesso segnale, il watermark diventa una prova statistica di provenienza dei dati. Un detentore di contenuti può usarlo per contestare l’uso dei propri documenti nei training set; un provider può escludere output di generazioni precedenti per evitare il model collapse. È uno spostamento dal «sei stato generato da AI» al tracciamento della data provenance.

Per chi valuta deployment on-premise, questo introduce un vincolo operativo: la scelta tra forza del segnale e fedeltà dell’output, soprattutto per testi brevi o carichi di codice. Non è un dettaglio accademico, ma una variabile di deployment per chi serve LLM self-hosted. AI-RADAR offre framework analitici per valutare questi trade-off tra controllo locale e qualità generativa. La questione di fondo è che il watermark sposta il costo della trasparenza dal regolatore al singolo token.