SynthID di Google ora rileva anche testi e video generati con l'AI

Durante la conferenza Google I/O, il CEO di DeepMind Demis Hassabis ha annunciato un importante aggiornamento alla tecnologia SynthID di Google per il rilevamento e la filigrana di contenuti generati dall’intelligenza artificiale. Oltre alle immagini e all’audio, SynthID è ora in grado di rilevare anche testi e video creati con l’AI.

SynthID: la filigrana digitale per contenuti generati dall’AI

Con la crescente diffusione degli strumenti di intelligenza artificiale, diventa sempre più cruciale poter identificare i contenuti generati dall’AI, specialmente quando questa viene utilizzata per scopi poco nobili. Purtroppo, l’AI è già stata impiegata per diffondere disinformazione politica, attribuire falsamente dichiarazioni a individui e creare contenuti sessuali senza consenso. In questo contesto, le filigrane digitali svolgono un ruolo fondamentale nel contrastare l’uso improprio di queste tecnologie.

SynthID: una soluzione innovativa per la tracciabilità dei contenuti

Presentato ad agosto dello scorso anno, SynthID è nato come strumento per imprimere nelle immagini generate dall’AI una filigrana invisibile all’occhio umano, ma rilevabile dal sistema. Questo approccio si distingue da altri standard di protocollo di watermarking, come C2PA, che aggiunge metadati crittografati ai contenuti generati dall’AI.

Oltre alle immagini, SynthID è stato abilitato per incorporare watermark non udibili anche nella musica generata dall’intelligenza artificiale, realizzata con il modello Lyria di DeepMind. Questa tecnologia rappresenta solo una delle numerose misure di protezione in fase di sviluppo per contrastare l’uso improprio dell’IA.

L’impegno delle istituzioni nella regolamentazione dell’AI

L’amministrazione Biden sta indirizzando le agenzie federali a creare linee guida specifiche per regolamentare l’uso dell’intelligenza artificiale e prevenirne gli abusi. Anche Il Parlamento italiano ha recentemente approvato una legge che impone una rigorosa supervisione sullo sviluppo e l’impiego dei sistemi di AI, in linea con il quadro normativo delineato dall’Unione Europea. È stato introdotto anche un nuovo reato, che prevede pene da 1 a 5 anni di reclusione per chi provoca danni tramite l’uso dell’AI.

Queste misure di protezione, tra cui SynthID, sono essenziali per garantire un utilizzo etico e responsabile delle tecnologie di intelligenza artificiale, tutelando la privacy e la sicurezza degli individui.