OpenAI ha annunciato il nuovo modello Sora 2 per la generazione dei video. Gli utenti statunitensi e canadesi possono usare il modello nell’app Sora per iOS. È simile a TikTok, ma i video nel feed sono creati dall’intelligenza artificiale. L’azienda californiana ha implementato diverse protezioni per impedire la generazione di deepfake non consensuali.
Sora 2: protezioni sufficienti?
Come il primo modello, Sora 2 consente di generare video con audio a partire da una descrizione testuale (lunghezza massima di 10 secondi). Il risultato finale è piuttosto realistico, quindi a tutti i video viene automaticamente aggiunto un watermark basato sullo standard C2PA (Coalition for Content Provenance and Authenticity) che indica l’uso dell’intelligenza artificiale.
L’arrivo dell’app Sora per iOS ha incrementato notevolmente il rischio di una diffusione dei deepfake non consensuali. Gli utenti possono infatti condividere video creati a partire da immagini o da altri video utilizzando la funzionalità Cameo. È anche possibile usare i video pubblicati da altri utenti per ottenere un Remix.
Gli utenti dovrebbero chiedere il consenso per creare e condividere i video. È possibile revocare il permesso e rimuovere il cameo. I sistemi automatici di OpenAI rilevano eventuali contenuti pericolosi o non adatti i minori e impedisce la loro generazione. I genitori possono invece utilizzare i controlli parentali di ChatGPT.
L’azienda californiana ha inoltre implementato filtri per impedire la generazione di audio che imita artisti viventi o contenuti protetti dal copyright. Il feed dell’app Sora viene personalizzato da un algoritmo che utilizza diverse informazioni, tra cui post, commenti, like, account seguiti e posizione geografica in base all’indirizzo IP. I genitori possono disattivare la personalizzazione per l’account dei figli.
Nelle prossime settimane si scoprirà se tutte queste protezioni sono efficaci o se l’app Sora diventerà un altro tool per la condivisione di video senza consenso.
Aggiornamento (2/10/2025): come previsto è iniziata la proliferazione dei deepfake. Sono però consensuali perché Sam Altman ha condiviso il suo cameo.
Ti potrebbe interessare
1 ott 2025