Ultimamente, navigando su Internet, capita sempre più spesso di imbattersi in video che sembrano reali, ma invece sono deepfake. E con la diffusione degli strumenti di intelligenza artificiale, il problema sta diventando sempre più serio.
I deepfake sono ovunque
Solo nell’ultimo anno, infatti, i deepfake sono aumentati del 400% in tutto il mondo. A lanciare l’allarme è Sumsub, una piattaforma di verifica dell’identità. Nel 2024, le immagini e video contraffatti hanno rappresentato il 7% di tutte le frodi online, dalle semplici imitazioni ai sofisticati tentativi di ingegneria sociale.
In un contesto del genere, la notizia che Meta ha sviluppato uno strumento per contrassegnare i video generati dall’AI con watermark invisibili fa ben sperare. Si chiama Meta Video Seal ed è open source, il che significa che può essere integrato facilmente in qualsiasi software esistente.
Come funziona Meta Video Seal per aggiungere il watermark ai video AI
Video Seal permette di applicare una filigrana impercettibile ai video generati dall’AI, in modo da poterne sempre rintracciare l’origine. Non solo: lo strumento può anche inserire un messaggio nascosto nei video, che può essere successivamente recuperato per verificarne la provenienza.
Secondo Meta, Video Seal è in grado di resistere a modifiche comuni come sfocature e ritagli, nonché ai più diffusi algoritmi di compressione. Certo, elaborazioni pesanti o editing significativi possono compromettere l’integrità delle filigrane, ma nel complesso si tratta di uno strumento promettente.
Non è il primo, ma potrebbe essere il migliore
Va detto che Video Seal di Meta non è certo il primo strumento di watermarking per i video. Ci hanno già pensato anche DeepMind di Google con SynthID e Microsoft con le sue metodologie proprietarie. Tuttavia, secondo Pierre Fernandez, ricercatore di AI di Meta, molte delle soluzioni esistenti hanno dei limiti significativi.
Alcuni strumenti non sono abbastanza robusti per resistere alla compressione dei video, molto comune quando si condividono contenuti sui social media. Altri non sono abbastanza efficienti per funzionare su larga scala o non sono open source e riproducibili. E poi ci sono quelli derivati dal watermarking delle immagini, che non è ottimale per i video.
Convincere sviluppatori e aziende sarà una sfida
Ovviamente, lo scoglio più grande per Meta sarà convincere sviluppatori e aziende ad adottare Video Seal, specialmente quelli che usano già soluzioni proprietarie. Per questo, Meta ha deciso di lanciare una classifica pubblica, Meta Omni Seal Bench, per confrontare le prestazioni dei vari metodi di watermarking. Inoltre, organizzerà un workshop dedicato al tema durante la conferenza ICLR di quest’anno.
L’obiettivo dichiarato è quello di spingere sempre più ricercatori e sviluppatori di AI a integrare qualche forma di watermarking nel loro lavoro. Solo collaborando attivamente con l’industria e la comunità accademica si potranno fare progressi significativi in questo campo.
Ti potrebbe interessare
13 dic 2024