ChatGPT introduce il watermark invisibile nei testi: come funziona textGrain
OpenAI avvia dall’Unione Europea la marcatura statistica dei testi generati da ChatGPT e Codex.
Un testo prodotto da ChatGPT potrà sembrare identico a qualsiasi altra risposta, ma contenere una traccia statistica riconoscibile da una macchina. OpenAI ha annunciato l’introduzione di textGrain, un sistema di watermark invisibile destinato inizialmente agli output idonei di ChatGPT e Codex nell’Unione Europea.
Come anticipato da The Verge e spiegato nel dettaglio da OpenAI, il rilascio avverrà progressivamente su tutti i piani europei. Per i clienti delle API, invece, l’attivazione sarà facoltativa e disponibile anche fuori dall’UE su una selezione di modelli.
La novità non serve a dimostrare chi abbia scritto un contenuto e neppure a stabilire se sia vero. Il suo obiettivo è più circoscritto: offrire un indizio tecnico del possibile coinvolgimento dei sistemi OpenAI nella generazione o nell’elaborazione di un testo.
Come funziona il watermark textGrain
textGrain non inserisce caratteri nascosti, spazi invisibili o punteggiatura anomala. Come chiarisce il centro assistenza di OpenAI, il segnale nasce direttamente dal processo con cui il modello seleziona parole e frammenti di parola, chiamati token.
Durante la generazione, un modello linguistico valuta numerose continuazioni plausibili. Se più alternative hanno un significato e una qualità comparabili, textGrain modifica in modo controllato la casualità della scelta. Ripetute lungo il testo, queste decisioni formano uno schema statistico che il rilevatore di OpenAI può cercare successivamente.
Il rapporto tecnico su textGrain descrive un metodo calibrato sull’entropia: in termini semplici, il sistema cerca di inserire un segnale sufficientemente riconoscibile senza ridurre troppo la varietà delle possibili risposte. OpenAI afferma che, nei test condotti, la tecnologia ha eguagliato o superato altri approcci valutati, compreso SynthID per il testo.
Non è un’etichetta visibile
Il lettore non vede il watermark e non può individuarlo osservando lo stile. Il segnale è distribuito nelle scelte linguistiche e richiede un rilevatore dotato delle informazioni tecniche necessarie.
Il principio non è esclusivo di OpenAI. Google DeepMind ha introdotto SynthID per il testo in Gemini nel 2024, intervenendo anch’esso sulle probabilità associate ai token. Nell’agosto 2026 Anthropic ha annunciato per Claude un sistema basato proprio sull’approccio SynthID-Text.
La rilevazione funziona meglio sui testi lunghi
Il watermark non è una firma infallibile. Nei dati pubblicati da OpenAI, fissando un tasso obiettivo di falsi positivi dell’1%, il rilevatore ha individuato il segnale in circa l’80% dei brani da 200 token su argomenti come la psicologia. Con 400 token, il valore è salito a circa il 95%.
Le prestazioni peggiorano nei contenuti molto brevi o vincolati, come formule e risposte matematiche. In questi casi il modello dispone di meno alternative linguistiche corrette e quindi di meno occasioni per incorporare il pattern statistico.
| Scenario analizzato da OpenAI | Rilevazione indicativa |
|---|---|
| Testo di circa 200 token | Circa 80% |
| Testo di circa 400 token | Circa 95% |
| 400 token con il 10% delle parole sostituite | Dal 92% circa al 66% |
| 400 token con il 25% delle parole sostituite | Fino al 17% |
Il problema principale è la fragilità rispetto alle modifiche. Nei test di OpenAI, sostituire con sinonimi il 10% delle parole di un testo da 400 token ha ridotto la rilevazione da circa il 92% al 66%. Con il 25% delle parole sostituite, il risultato è sceso al 17%. Traduzioni, riscritture estese e passaggi attraverso un secondo modello possono indebolire ulteriormente il segnale.
OpenAI sostiene inoltre di non avere osservato differenze significative tra output marcati e non marcati nei benchmark utilizzati per il proprio modello. Tuttavia, la qualità percepita nella vita reale, soprattutto nei testi creativi e nel software, dovrà essere verificata su una platea più ampia.
Perché il debutto avviene nell’Unione Europea
La scelta geografica dipende dall’articolo 50 dell’AI Act. Le indicazioni della Commissione Europea richiedono ai fornitori di sistemi generativi di adottare marcature leggibili dalle macchine, efficaci e interoperabili, affinché i contenuti sintetici possano essere riconosciuti come generati o manipolati dall’intelligenza artificiale.
Gli obblighi di trasparenza sono diventati applicabili il 2 agosto 2026. Per i sistemi immessi sul mercato prima di quella data è previsto, limitatamente alla marcatura e alla rilevazione, un periodo transitorio fino al 2 dicembre 2026. Le sanzioni indicate dalla Commissione possono arrivare a 15 milioni di euro o al 3% del fatturato mondiale annuo dell’esercizio precedente.
Il Codice di condotta europeo sulla marcatura dei contenuti AI, pubblicato nel giugno 2026, è volontario ma offre alle aziende firmatarie un percorso operativo per dimostrare la conformità. L’approccio promosso combina watermark, metadati protetti e strumenti di verifica, invece di affidarsi a un’unica tecnologia.
Codex non significa necessariamente codice marcato
Le linee guida europee escludono esplicitamente il codice sorgente da alcuni obblighi di marcatura. Il riferimento di OpenAI agli output idonei di Codex può quindi riguardare soprattutto spiegazioni, documentazione, riepiloghi e altri testi in linguaggio naturale prodotti dall’assistente.
Che cosa il watermark non può dimostrare
I limiti da considerare quando si interpreta una rilevazione
- Non misura quanto lavoro umano sia stato aggiunto al contenuto.
- Non identifica l’utente, l’account, il prompt o la conversazione di origine.
- Non stabilisce la proprietà intellettuale o la responsabilità legale.
- Non certifica che le informazioni siano accurate o contestualizzate correttamente.
- La mancata rilevazione non prova che il testo sia stato scritto da una persona.
Questi limiti spiegano perché il rilevatore di textGrain non sarà inizialmente disponibile a chiunque. OpenAI accetterà richieste di accesso da ricercatori e organizzazioni specializzate, valutandole caso per caso. L’azienda teme che falsi positivi e falsi negativi possano portare a conclusioni scorrette, in particolare in ambiti delicati come scuola, selezione del personale, giornalismo e procedimenti disciplinari.
Un risultato positivo dovrebbe dunque essere trattato come un segnale di provenienza, non come una sentenza sull’autore. Allo stesso modo, un esito negativo potrebbe dipendere da un testo troppo breve, modificato, tradotto, prodotto prima dell’introduzione del sistema oppure generato da un modello non supportato.
Un’infrastruttura di provenienza, non una soluzione definitiva
Con textGrain, OpenAI compie un passaggio rilevante: la provenienza dei contenuti non riguarda più soltanto immagini, audio e video, ma entra direttamente nelle parole scelte dai modelli linguistici. L’azienda prevede anche di rendere la tecnologia open source, pur senza indicare una data precisa.
La vera sfida sarà costruire un ecosistema nel quale sistemi differenti possano essere verificati in modo affidabile e interoperabile. Watermark statistici, credenziali C2PA, registri e controlli editoriali possono rafforzarsi a vicenda, ma nessuno di questi strumenti elimina da solo disinformazione, plagio o uso scorretto dell’AI.
Il debutto europeo di textGrain va quindi letto come un esperimento normativo e tecnologico su larga scala. Potrà aumentare la trasparenza, ma soltanto se i risultati saranno interpretati con prudenza e senza trasformare una probabilità matematica in una prova automatica di colpevolezza.
