YouTube lancia l'AI anti-deepfake per proteggere i creator famosi

YouTube sta combattendo i deepfake con l’unica arma che sembra funzionare, un’altra intelligenza artificiale. A partire da oggi, i creator che fanno parte del Programma Partner possono accedere a un nuovo strumento di “rilevamento delle somiglianze” che scansiona la piattaforma alla ricerca di video che usano il loro volto senza permesso.

YouTube combatte i deepfake: nuovo strumento IA rileva volti rubati dei creator

Lo strumento promette di aiutare i personaggi famosi a gestire su larga scala i contenuti generati dall’AI che li ritraggono, il che è necessario perché creare un deepfake convincente è diventato così facile che praticamente chiunque con un laptop e troppo tempo libero può farlo. Serve solo un’app, qualche foto di riferimento e la volontà morale discutibile di mettere parole e azioni nella bocca di qualcun altro.

Dopo aver verificato la propria identità, presumibilmente per evitare che qualcuno rivendichi di essere MrBeast quando in realtà è un tizio che vive nel seminterrato dei genitori, i creator possono esaminare i video segnalati nella scheda Rilevamento contenuti su YouTube Studio.

Se un video sembra essere un contenuto non autorizzato generato dall’AI, possono inviare una richiesta di rimozione. È simile al sistema Content ID che YouTube usa per rilevare contenuti audio e video protetti da copyright, solo che invece di cercare canzoni o clip di film, cerca facce.

Il problema, come YouTube stesso ammette in una guida per i primi utenti, è che allo stato attuale di sviluppo lo strumento potrebbe visualizzare video che mostrano il tuo volto reale, non versioni alterate o sintetiche. In pratica, l’AI potrebbe segnalare clip dei contenuti originali del creator stesso. È come un cane da guardia così zelante che abbaia anche contro il padrone di casa. Imbarazzante ma comprensibile, considerando che distinguere un deepfake ben fatto dalla realtà sta diventando sempre più difficile anche per gli esseri umani.

Roll out

YouTube aveva annunciato questa funzione l’anno scorso e ha iniziato a testarla a dicembre attraverso un programma pilota con talenti rappresentati dalla Creative Artists Agency (CAA), una delle più grandi agenzie di talenti di Hollywood.

La prima ondata di creator idonei è stata informata via email questa mattina, e la funzione sarà estesa ad altri creator nei prossimi mesi. YouTube non ha specificato esattamente quali criteri determinano chi riceve l’accesso prima, ma possiamo presumere che abbia a che fare con dimensioni del canale, numero di subscriber e probabilmente quanto si è vulnerabili. Se si hanno 100 subscriber, probabilmente nessuno si preoccupa di creare un deepfake. Ma se si hanno 10 milioni, si diventa un target appetibile.

Gli strumenti di YouTube contro i contenuti AI

Lo strumento di rilevamento delle somiglianze non è l’unica arma nell’arsenale di YouTube contro i contenuti AI problematici. A marzo la piattaforma ha iniziato a richiedere ai creator di etichettare i contenuti caricati che includono materiale generato o modificato usando l’intelligenza artificiale. Ha anche annunciato una politica rigorosa sulla musica generata dall’AI che imita la voce unica di un artista che canta o rapp”.

Il vero problema con qualsiasi strumento di rilevamento è che è sempre una corsa agli armamenti. Si crea un sistema che rileva deepfake, qualcuno crea deepfake migliori che aggirano il rilevamento, si migliora il rilevamento, loro migliorano i deepfake. È un ciclo infinito.

YouTube sta facendo quello che può con le risorse e la tecnologia disponibili, ma non è una soluzione definitiva. È una toppa temporanea su un problema che continuerà a evolversi. I creator famosi avranno uno strumento in più per proteggere la propria immagine, ma dovranno comunque monitorare costantemente la piattaforma e inviare richieste di rimozione manualmente.

E poi c’è la questione di cosa succede ai deepfake che non vengono rilevati, o che vengono caricati su altre piattaforme dove YouTube non ha giurisdizione. TikTok, Instagram, X, Twitch, tutti luoghi dove i deepfake possono proliferare senza che questo strumento possa fare nulla. YouTube può controllare solo il proprio giardino, ma i deepfake crescono ovunque come l’erbaccia.