Google SynthID Detector individua i contenuti AI (almeno ci prova)

Sono sempre di più i contenuti realizzati con l’intelligenza artificiale che finiscono online e riconoscerli non è sempre facile, complice l’arrivo di modelli avanzati. Se da una parte il gruppo di Mountain View annuncia il debutto di nuovi strumenti capaci di generare risorse multimediali indistinguibili dalla realtà, dall’altra introduce un tool utile a identificarne la natura sintetica: Google SynthID Detector.

Cos’è e come funziona Google SynthID Detector

Può essere descritto come un portale di verifica in cui caricare un’immagine, un audio, un video o un testo, per poi ricevere un responso in breve tempo. Per stessa ammissione di bigG, la tecnologia presenta alcune limitazioni. Anzitutto, è in grado di rilevare solo gli interventi riconducibili ai suoi sistemi AI e non, ad esempio, a quelli di OpenAI o Meta. Poi, il controllo può essere facilmente aggirato nel caso dei testi. Questo ne riduce inevitabilmente l’efficacia.

L’analisi cerca la presenza di watermark inseriti nel contenuto con SynthID, attraverso l’approccio introdotto un paio di anni fa dal team DeepMind. È una sorta di impercettibile filigrana digitale.

Un post condiviso da bigG sul blog ufficiale spiega come funziona, specificando che lo strumento è ancora fermo alla fase di test. Possono chiedere l’accesso anticipato i giornalisti, gli addetti ai lavori del mondo dell’informazione e i ricercatori, compilando l’apposito modulo.

• Upload contenuti: carica un’immagine, una traccia audio, un video o un testo creato utilizzando gli strumenti di intelligenza artificiale di Google;
• ricerca filigrane: il portale analizza i contenuti multimediali caricati e rileva se il contenuto caricato, o parti specifiche di esso, contiene una filigrana SynthID;
• visualizza i risultati: il portale presenterà i risultati e, se viene rilevata una filigrana SynthID, evidenzierà quali parti del contenuto hanno maggiori probabilità di essere state contrassegnate con una filigrana.

Dell’esigenza di trovare un modo efficace per riconoscere ed etichettare i contenuti creati con l’AI generativa abbiamo discusso nei mesi scorsi con Isaac Reynolds, Lead Product Manager del team Pixel Camera di Google, in occasione di un evento organizzato in Italia e dedicato al nuovo smartphone Pixel 9a. L’intervista integrale è stata pubblicata su Telefonino.net.