Le immagini generate da ChatGPT, Codex e le API di OpenAI porteranno ora i watermark invisibili SynthID, la tecnologia di filigrana digitale sviluppata da Google DeepMind, in aggiunta alle credenziali C2PA che OpenAI già integrava.
Due sistemi sovrapposti, uno resiste quando i metadati vengono rimossi (SynthID), l’altro fornisce informazioni più dettagliate sulla provenienza (C2PA). Insieme, rendono più difficile far passare un’immagine AI per reale.
OpenAI adotta i watermark SynthID di Google per le immagini generate da ChatGPT
I due sistemi sono progettati per completarsi a vicenda
, spiega OpenAI. C2PA permette ai contenuti di conservare informazioni dettagliate sulla loro origine, mentre SynthID continua a identificare il materiale generato dall’AI anche se i metadati originali vengono rimossi o non sono più disponibili.
Il punto è che i metadati C2PA vengono spesso rimossi quando un’immagine lascia la piattaforma dove è stata pubblicata, alcune piattaforme li cancellano accidentalmente durante il caricamento. SynthID è incorporato nell’immagine stessa e sopravvive a screenshot, ritagli e condivisioni. C2PA dà più informazioni, ma è fragile. SynthID dà meno informazioni ma è resistente.
Nella pratica, i fact-checker e le agenzie media usano già SynthID in maniera più sistematica di C2PA per verificare i deepfake.
Il portale di verifica pubblico
OpenAI sta anche lanciando in anteprima un portale pubblico di verifica dove chiunque può caricare un’immagine e verificare se contiene metadati AI o watermark. Il portale controlla sia C2PA che SynthID e segnala se l’immagine è stata generata con ChatGPT, le API OpenAI o Codex.
Per ora funziona solo con immagini generate da OpenAI. L’azienda supporterà altri sistemi di verifica nei prossimi mesi e ad espandersi ad altri tipi di contenuto.
Nessun metodo di rilevamento è infallibile
avverte OpenAI. Se non vengono rilevati metadati o watermark, lo strumento non trarrà una conclusione definitiva su se l’immagine sia stata generata con strumenti OpenAI.
OpenAI ha anche aderito al C2PA Conformance Program, che certifica che i prodotti aderiscano alle specifiche delle credenziali di contenuto e soddisfino i requisiti di sicurezza.
Le immagini generate da ChatGPT saranno ora più tracciabili e verificabili. Il sistema non è infallibile, nessuno lo è, ma con due livelli invece di uno.