Sora può generare video di persone reali?

Sora è pubblicamente disponibile da ieri sera. Il modello AI text-to-image è accessibile tramite il sito ufficiale, ma non in Europa (quindi nemmeno in Italia). OpenAI ha implementato vari filtri per evitare un uso scorretto della tecnologia. Alcuni utenti possono però generare video di persone reali.

Potente strumento per creare deepfake

Sora permette di ottenere video realistici a partire da una descrizione testuale. La versione base, inclusa nell’abbonamento ChatGPT Plus, consente di generare un massimo di 50 video a risoluzione 720p con durata di 5 secondi. Sora Turbo, accessibile agli abbonati ChatGPT Pro, incrementata la risoluzione a 1080p e la durata a 20 secondi.

OpenAI garantisce la trasparenza con l’aggiunta dei metadati C2PA che indicano l’uso dell’intelligenza artificiale e la visualizzazione di un watermark sul video. L’azienda californiana ha inoltre implementato filtri per evitare la generazione di deepfake pedopornografici e sessualmente espliciti in generale. I filtri bloccano inoltre la generazione di video violenti e che possono violare il copyright.

All’avvio vengono mostrati i termini d’uso che l’utente deve accettare. In generale non è possibile caricare foto o video di persone reali senza il loro consenso. OpenAI offre però questa possibilità ad un numero limitato di utenti e monitorerà i risultati, come specificato nel post pubblicato sul blog ufficiale:

La capacità di generare un video usando una foto o un video di una persona reale come “seed” è un vettore di potenziale abuso verso cui stiamo adottando un approccio particolarmente incrementale per imparare dai primi esempi di utilizzo. I primi feedback degli artisti indicano che questo è un potente strumento creativo che apprezzano, ma dato il potenziale di abuso, inizialmente non lo renderemo disponibile a tutti gli utenti. Invece, in linea con la nostra pratica di distribuzione iterativa, la capacità di caricare immagini o video di persone sarà resa disponibile a un sottoinsieme di utenti e avremo un monitoraggio attivo e approfondito per comprenderne il valore per la comunità Sora e per adattare il nostro approccio alla sicurezza man mano che impariamo.

Nelle prossime settimane scopriremo se OpenAI riuscirà a bloccare la generazione di video non consentiti. I deepfake di persone reali possono essere sfruttati per la disinformazione durante le campagne elettorali.