Testi scritti dall’Ai, perché i nuovi controlli si possono aggirare

Anche OpenAI comincia a firmare i testi della propria intelligenza artificiale per renderli distinguibili da quelli scritti da umani. Dopo Anthropic, che ha annunciato il watermark per Claude ad agosto, OpenAI ha comunicato il 5 ottobre che nelle prossime settimane introdurrà una marcatura invisibile nei testi prodotti da ChatGPT e Codex nell’Unione europea. Ma gli stessi risultati pubblicati dalla stessa azienda mostrano quanto sia fragile questa tracciabilità: cambiare una parte delle parole può bastare a far sfuggire al controllo gran parte dei contenuti esaminati.

Per imprese, scuole e editori la promessa è interessante: avere un’indicazione sull’origine di un documento, senza affidarsi soltanto alle dichiarazioni di chi lo consegna. Il rischio però è attribuire a quell’indicazione un valore che non possiede. Un testo può essere stato prodotto interamente da una macchina e superare il controllo; un altro può nascere dal lavoro di una persona e conservare la traccia di una successiva rielaborazione automatica.

La spinta arriva dall’AI Act. Le disposizioni europee sulla trasparenza, applicabili dal 2 agosto, richiedono ai fornitori di rendere riconoscibili mediante strumenti automatici i contenuti sintetici, con alcune eccezioni, fra cui determinate funzioni di semplice assistenza alla revisione. Per i sistemi già sul mercato prima di quella data, la scadenza transitoria per la marcatura è il 2 dicembre 2026. L’obbligo crea un incentivo comune a sviluppare questi strumenti, ma non ne elimina le debolezze tecniche.

Il watermark testuale non è un’etichetta nascosta nel documento. Non consiste in caratteri invisibili da cancellare, né in informazioni che scompaiono copiando un brano in un altro programma. Come illustra lo studio su SynthID-Text pubblicato su Nature nel 2024, la marcatura interviene nella generazione: fra le diverse continuazioni plausibili di una frase, il sistema sceglie secondo un meccanismo che lascia una regolarità statistica riconoscibile.

Il lettore vede una normale sequenza di parole. Il rilevatore cerca invece quella regolarità nell’insieme del brano. È una distinzione decisiva: cambiare carattere tipografico o incollare il testo senza formattazione non altera le parole e quindi non rimuove, di per sé, la firma.