L'IA di Samsung per i deepfake

Dai laboratori di Samsung un'intelligenza artificiale in grado di creare deepfake partendo da una singola immagine che ritrae una qualsiasi persona.

I deepfake sono l’esempio perfetto di come i sistemi di intelligenza artificiale, e in senso più ampio una qualsiasi tecnologia, sia di per sé neutrale, andando ad assumere una valenza positiva o negativa a seconda dell’utilizzo che si sceglie di farne. Torniamo oggi sull’argomento per segnalare quanto siano efficaci gli algoritmi messi a punto da un laboratorio russo di ricerca controllato da Samsung.

Da Samsung un’IA che crea deepfake

L’IA in questione è in grado di creare un filmato con un’animazione facciale piuttosto convincente ed espressioni del viso credibili, partendo da una singola immagine e non più da un ampio set come invece richiesto dalle alternative già viste in azione. Di seguito alcuni frame tratti dalle demo fin qui mostrate e più sotto un filmato che permette di vedere il risultato in movimento. La Monna Lisa di Leonardo prende vita sgranando gli occhi, volgendo lo sguardo in ogni direzione e muovendo la bocca in modo coerente con il parlato.

IA e deepfake

Lo stesso vale per Dalí (già protagonista di un’altra iniziativa legata all’intelligenza artificiale), per il soggwtto del celebre dipinto Ragazza col turbante di Vermeer o per il Ritratto dell’Infanta Isabella di Rubens.

L'IA e i deepfake creati, ispirati al mondo dell'arte

Il funzionamento può essere sintetizzato in questo modo: si parte da un video che può avere come protagonista chiunque, fotogramma dopo fotogramma gli algoritmi identificano i movimenti del viso e infine viene prodotto un secondo filmato che alle fattezze del soggetto originale sostituisce quelle del target, replicando le espressioni facciali in modo parecchio convincente.

Se da un lato i sistemi in grado di generare deepfake possono risultare utili ad esempio per chi lavora in ambito cinematografico o per la creazione di trasmissioni televisive, come nel caso del primo anchorman virtuale cinese, dall’altro sono potenziale oggetto di abusi. Già vengono impiegati per appiccicare il viso delle celebrità a scene hot, con tutto ciò che ne consegne in termini di revenge porn (pardon, pornovendetta). Si teme poi che in un futuro non troppo lontano possano arrivare a costituire una nuova arma nelle mani di chi riversa sul Web e sulle bacheche dei social network contenuti ascrivibili alle categorie fake news e disinformazione.

A tal proposito, richiamiamo alla mente il progetto Synthesizing Obama. L’IA, creata dai ricercatori dell’Università di Washington, è in grado di replicare un discorso dell’ex Presidente USA, con risultati pressoché indistinguibili dalla realtà. La tecnologia, va sottolineato, ha ormai quasi due anni: da allora le capacità di algoritmi e reti neurali sono aumentate esponenzialmente.

L’iniziativa svelata oggi dal laboratorio Samsung non ha finalità malevole: non è stato rilasciato alcun tool né software che metta la tecnologia nelle mani di chiunque. Non siamo però sufficientemente ottimisti per pensare che nessuno possa trarne ispirazione per sviluppare un sistema equivalente da destinare a scopi poco nobili.

La tua email sarà utilizzata per comunicarti se qualcuno risponde al tuo commento e non sarà pubblicato. Dichiari di avere preso visione e di accettare quanto previsto dalla informativa privacy

Fonte: Cornell University
Chiudi i commenti