Anthropic applicherà un watermark, una filigrana, ai testi generati dai propri modelli di intelligenza artificiale per conformarsi alle normative europee.
L’azienda ha confermato l’adozione di questa misura in una pagina ufficiale. L’AI Act europeo, con l’attivazione dell’articolo 50 avvenuta il 2 agosto scorso, impone alle aziende del settore di contrassegnare i contenuti generati o modificati dall’Ai in modo tale che altri sistemi possano identificarli. Il watermark non sarebbe un’etichetta nascosta dentro il file, ma una piccola impronta statistica incorporata direttamente nel modo in cui il modello sceglie le parole. Per questo, almeno in teoria, sopravvive al copia-incolla.
Come funziona?
Partiamo dall’inizio: un LLM non scrive una frase tutta insieme. Avanza un token alla volta, come chi attraversa un torrente saltando da una pietra alla successiva. In pratica il modello ragiona su base probabilistica, assegna un valore statistico alle parole e poi costruisce la frase. In pratica, interviene a livello di scelta delle parole, non usa quella che avrebbe indicato senza “watermark”. Il marchio quindi non è qualcosa di digitale o un metadato ma va rilevato a livello di token. In letteratura esistono più metodi legati al testo ma la logica di base è quella di spingere il modello a scegliere delle parole che diventano la “prova” del testo generato. Quello che rende complesso questo sistema è che non esiste un vocabolario dei termini usati dall’Ai. Il sistema ricalcola ogni termini quindi la firma è basata sulla scelta statistica dei token. Il rilevatore, conoscendo chiave e algoritmo, ricostruisce quali token erano favoriti. Se nel testo ne compaiono molti più del previsto, il watermark diventa statisticamente visibile. Google, con SynthID-Text, usa un meccanismo più raffinato: più token candidati vengono messi in una specie di torneo. Le normali probabilità del modello si combinano con punteggi pseudocasuali legati a chiave e contesto. Vince un candidato. Ripetuta centinaia di volte, questa micro-preferenza lascia una traccia. È come una moneta leggermente truccata. Servono molti lanci per capire se c’è qualcosa di sospetto. La vera partita, quindi, non è trovare una scritta invisibile nel documento. È riconoscere un’impronta statistica lasciata mentre il testo nasce.
Quali sono i limiti
Funziona meglio su testi lunghi e discorsivi. Peggio su codice, formule, citazioni, numeri e risposte brevi, dove il modello ha meno libertà. Traduzioni, parafrasi e riscritture profonde possono inoltre indebolire o cancellare il segnale. C’è poi il problema dei falsi positivi. Come scrive Anthropic «l’assenza di un segno distintivo non significa che il contenuto non sia stato generato o elaborato dall’IA». Il contenuto generato da Claude potrebbe non presentare un segno distintivo rilevabile se, ad esempio è stato generato da un modello rilasciato prima che fosse implementato il supporto per la marcatura. Come prescrive l’articolo 50 dell’Ai Act ci sarà un periodo transitorio per adeguare la marcatura dell’output al 2 dicembre 2026. Ad oggi quindi ’applicazione di filigrane riguarderà diversi prodotti, tra cui le Api della piattaforma Claude, Claude, Claude Code, Claude Cowork e Claude Tag. Entro la fine dell’anno sarà allargata anche a Opus 5 e Sonnet 5. Un altro caso di mancato rilevamento della filigrana è se «i metadati di un file sono stati rimossi tramite conversione di formato, salvataggio ripetuto, screenshot o altri mezzi». E se «è stato prodotto tramite una piattaforma, una funzionalità o un tipo di file in cui un particolare tipo di marcatura non era supportato».
Oltre al testo anche le immagini.
Il sistema adottato da Anthropic utilizza lo standard aperto C2PA. Oltre al testo le immagini; Anthropic firmerà anche file come SVG, PNG o JPEG.
