ChatGPT potrà generare video, ma è allarme deepfake

ChatGPT potrà generare video, ma è allarme deepfake

ChatGPT potrà presto generare contenuti video. Una funzione interessante, ma che presenta anche rischi di utilizzo inappropriato e dannoso.
ChatGPT potrà generare video, ma è allarme deepfake
ChatGPT potrà presto generare contenuti video. Una funzione interessante, ma che presenta anche rischi di utilizzo inappropriato e dannoso.

 

Dopo il lancio di ChatGPT lo scorso novembre e i successivi aggiornamenti GPT-4 e GPT-4 Turbo, il chatbot di OpenAI ha compiuto straordinari passi in avanti. Ma secondo Sam Altman, CEO di OpenAI, il meglio deve ancora venire con GPT-5. Altman ha accennato anche al misterioso progetto Q*, che secondo alcuni potrebbe essere una minaccia per il futuro dell’umanità.

Multimodalità e generazione di contenuti video

Sam Altman ha rivelato alcune delle caratteristiche che avrà GPT-5, la prossima versione del modello di intelligenza artificiale, durante il podcast Unconfuse Me di Bill Gates. Uno degli aggiornamenti più interessanti riguarda l’introduzione della multimodalità, ovvero la capacità di generare output non solo testuale. Dopo immagini e audio, ChatGPT potrà creare video in modo semplice e intuitivo per l’utente. Sarà sufficiente descrivere l’argomento del video desiderato e lasciare che l’intelligenza artificiale generi il contenuto in automatico. “È chiaro che la gente lo vuole”, ha detto Altman, ricordando il successo che ha avuto la funzione di creazione di immagini e audio su ChatGPT.

Potenziali rischi legati ai deepfake video

Seppur inevitabile, la possibilità di creare video solleva alcune preoccupazioni in termini di controlli e regolamentazione. Con uno strumento così accessibile, il rischio di diffusione massiccia di deepfake è concreto. Con GPT-5, sarà molto facile creare un video con una celebrità, o anche uno sconosciuto, che dice e fa qualsiasi cosa.

Attualmente, i deepfake sono già usati da truffatori, che li sfruttano per ingannare le vittime e ottenere denaro. Ad esempio, ci sono stati casi di falsi video di Elon Musk che prometteva bitcoin o di Taylor Swift che regalava utensili da cucina.

Sebbene questa funzionalità apra interessanti opportunità creative, solleva anche evidenti criticità etiche e legali. La possibilità di produrre deepfake su larga scala potrebbe avere impatti sociali devastanti. Sarà fondamentale perciò trovare soluzioni di policy adeguate.

Per contrastare questo fenomeno, sarà necessario intervenire a livello sociale e legislativo. In Europa, è stata approvata una legge che regolamenta l’uso dell’intelligenza artificiale, stabilendo dei principi etici e delle sanzioni. Ma sarà sufficiente? O sarà necessario trovare altri modi per verificare l’autenticità dei video e proteggere i diritti delle persone? Queste sono le domande che si pongono di fronte alla sfida di GPT-5.

Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il 17 gen 2024
Link copiato negli appunti