L'app social di Sora di OpenAI è invasa da deepfake inquietanti

Il primo giorno di accesso anticipato della nuova app social di Sora non è andato proprio benissimo. Quello che doveva essere uno spazio creativo è diventato un incubo.

Un video mostra un allevamento infinito di maiali rosa, ciascuno con una mangiatoia e uno smartphone che riproduce video verticali. Al centro, un Sam Altman generato dall’AI fissa lo spettatore e chiede: I miei maialini si stanno godendo il loro pastone? Benvenuti nel feed For You di Sora, dove il CEO di OpenAI diventa protagonista di scene sempre più assurde e disturbanti.

App social di Sora, deepfake a volontà e Altman è il protagonista

Altman appare ovunque… Serve frappuccini a Pikachu, urla contro clienti da McDonald’s, ruba GPU da Target e supplica la polizia di non portargliele via. Il tutto in ambientazioni realistiche, animate da generatore video AI che rispetta le leggi della fisica e rende ogni scena credibile. Gli utenti si divertono a testare i limiti del copyright, generando contenuti con personaggi di Nintendo, South Park e SpongeBob, spesso in contesti per adulti.

La funzione “cameo” permette agli utenti di caricare dati biometrici per generare video con il proprio volto e voce. Altman ha reso il suo cameo pubblico, e il risultato è un’invasione di video in cui Pikachu e Mario lo implorano di smettere di addestrare l’AI. Ogni utente può scegliere chi può usare il proprio volto. solo se stessi, mutuals, approvati o tutti. Ma anche con i controlli attivi, il confine tra gioco e abuso è sottile.

L’AI sa dove siamo, cosa pensiamo e cosa diremmo

Sora personalizza i video usando l’indirizzo IP e la cronologia ChatGPT. Nel test di una giornalista, l’app ha generato un deepfake che parlava dei Phillies, pur non avendo ricevuto alcuna informazione diretta. La stanza era identica a quella reale, la voce diversa, ma il messaggio sorprendentemente plausibile. Un commentatore su TikTok ha scritto: Ogni giorno mi sveglio con nuovi orrori che vanno oltre la mia comprensione.

Sicurezza e privacy… dove sono?

OpenAI dice di puntare sulla sicurezza: controlli parentali, limiti sui cameo, messaggi che chiedono Come ti senti usando Sora? Però l’app permette di creare deepfake molto realistici, anche di personaggi storici. JFK che chiede soldi, Lincoln che guida una Waymo: magari innocui (per ora), ma mostrano quanto sia facile manipolare volti e contesti. E tutto questo in un momento in cui i deepfake stanno già circolando sui social senza troppi filtri. Vedasi il caso di Trump che condivide deepfake razzisti sui social come se niente fosse…