Taylor Swift, ennesimo deep fake truffaldino

Anche Taylor Swift ha prestato la propria voce al mondo del deep fake. “Prestato” è però la parola sbagliata, perché in realtà il tutto è avvenuto alla completa insaputa della performer e tutto ciò a vantaggio di uno scam online legato alla vendita di un prodotto e di un abbonamento. La gravità del problema sta nel fatto che se chiunque ha la possibilità di sfruttare l’identità della regina della musica internazionale, sfruttandone la voce per mettere in vendita qualcosa, allora sul tavolo abbiamo un problema serio e che è necessario affrontare con la massima urgenza e serietà.

Deep fake truffaldino

Il problema dei deep fake è noto ormai da tempo, fin da quando le prime prove online hanno evidenziato quanto realistici possano essere e, quindi, quanto ingannevoli possano rivelarsi. Il fatto che su Tik Tok, Facebook e Instagram siano comparsi video di Taylor Swift che dice cose in realtà mai pronunciate, lascia intendere come qualsiasi contenuto possa ormai essere facilmente manipolato e per questo motivo possano nascere truffe e inganni di ogni tipo, con impatti finanziari, politici e sociali difficili da immaginare.

L’aver trasformato Taylor Swift in una testimonial (a sua insaputa, senza accordo alcuno e pertanto anche in modo ingannevole nei confronti della star) è in nuovo casus belli sul quale portare alla riflessione sulle regolamentazioni necessarie dell’IA. Ad oggi la responsabilità sui filtri è lasciata alle piattaforme, le quali hanno in parte interesse a lasciar proliferare contenuti interessanti, ma dall’altra rischiano di perdere di significato se la repository diventa scarsamente credibile.

Di fronte abbiamo dunque una nuova evoluzione, nella quale il rapporto disintermediato tra utenti e contenuti viene a perdere di affidabilità e le piattaforme possono ergersi o meno a garanzia di quanto veicolato. Sul fronte normativo l’interesse può e deve restare in termini di veridicità dei contenuti, evitando che dietro il falso possano celarsi malaffare, tentativi di truffa o altre operazioni di malintenzionati. La difesa dell’utente dovrà passare anche attraverso una corretta tracciabilità dei contenuti, una redistribuzione delle responsabilità e la riscrittura delle regole alla luce dell’impatto che il deep fake può avere su social network sempre più intrisi di video e viralità.

Una falsa Taylor Swift che vende oggetti per la casa è poco credibile e l’utente dovrebbe notare che c’è qualcosa che non va prima di operare un acquisto? Probabile, ma dietro un video palesemente fasullo possono essercene centinaia che sfruttano lo Star System in modo ben più sottile e raffinato. Se si pensa a quanto sia possibile trovare la verità dietro un’operazione di marketing come quella dei pandori Balocco/Ferragni, allora il problema del deep fake emerge in tutta la sua complessità – soprattutto se in regime di relativa deregulation.