AI Act: OpenAI aggiunge un watermark al testo di ChatGPT

AI Act: OpenAI aggiunge un watermark al testo di ChatGPT

OpenAI aggiungerà un watermark, basato sulla tecnologia textGrain, al testo generato da ChatGPT e Codex per rispettare l'AI Act in Europa.
AI Act: OpenAI aggiunge un watermark al testo di ChatGPT
OpenAI aggiungerà un watermark, basato sulla tecnologia textGrain, al testo generato da ChatGPT e Codex per rispettare l'AI Act in Europa.

OpenAI ha annunciato che aggiungerà un watermark invisibile (leggibile solo alle macchine) al testo generato da ChatGPT e Codex per rispettare un preciso obbligo di trasparenza dell’AI Act in Europa (come già fatto da Anthropic). L’azienda californiana sfrutterà la sua tecnologia textGrain che offre prestazioni superiori a quelle concorrenti, tra cui SynthID di Google.

Come funziona il watermark di OpenAI

A partire dal 2 agosto 2026 è obbligatorio indicare la provenienza dei contenuti per i nuovi modelli AI, come stabilito dall’art. 50 comma 2 dell’AI Act. Gli utenti devono essere in grado di capire che testo, immagini, audio e video sono generati o modificati dall’intelligenza artificiale. OpenAI ha sviluppato la tecnologia textGrain per aggiungere un watermark invisibile al testo generato da ChatGPT e Codex.

Al momento è disponibile solo agli sviluppatori che accedono ai modelli tramite API. Ciò consente di decidere in che modo l’applicazione del watermark si concili con i loro obblighi di trasparenza. Successivamente il watermark verrà applicato anche agli output dei modelli accessibili tramite i servizi cloud.

Nelle prossime settimane sarà disponibile per il testo generato da ChatGPT e Codex in tutti i piani ed esclusivamente nell’Unione europea. In base ai feedback ricevuti, OpenAI deciderà se estendere il watermark a livello globale. Ricercatori e organizzazioni di esperti possono testare il tool che permette di rilevare la presenza del watermark, senza identificare l’utente e il contenuto della conversazione.

In base ai test effettuati con Astra non ci sono differenze evidenti di prestazioni con o senza watermark. OpenAI sottolinea che la tecnologia textGrain è superiore a quella di Google (SynthID). L’azienda californiana ha inoltre evidenziato i “difetti” del watermark in generale: non misura il contributo umano, non stabilisce proprietà o responsabilità e non verifica se il contenuto è vero. Infine, l’assenza del watermark (perché il testo è troppo corto o tradotto o alterato) non prova che il contenuto è umano.

Per quanto riguarda immagini e audio, OpenAI utilizza i metadati C2PA (Content Provenance and Authenticity) e il watermark SynthID. Gi utenti possono verificare la generazione o modifica tramite il tool web dedicato.

Fonte: OpenAI
Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il
6 ott 2026
Link copiato negli appunti