Deepfake sessuali di Grok: indagine in California

Il Procuratore Generale della California (Rob Bonta) ha avviato un’indagine nei confronti di xAI per non aver bloccato la diffusione di immagini sessualmente esplicite generate da Grok. Quasi contemporaneamente, X ha annunciato l’introduzione di alcune restrizioni, ma valgono solo per l’account Grok sul social media.

Elon Musk nega l’evidenza

Diversi paesi, tra cui Francia, India, Indonesia e Malesia, hanno preso provvedimenti in seguito alla pubblicazione di deepfake sessuali generati da Grok. La Commissione europea ha ordinato a X di conservare la documentazione relativa al chatbot in vista di una possibile indagine per violazione del Digital Services Act.

Ofcom ha avviato un’indagine per la possibile violazione dell’Online Safety Act del Regno Unito. Elon Musk ha scritto su X che Grok non genera immagini di minorenni nudi e si rifiuterà di farlo quando gli viene chiesto. Al massimo genera immagini che mostrano la parte superiore nuda di umani immaginari.

Il Primo Ministro del Regno Unito ha dichiarato che X rispetterà la legge. L’azienda di Elon Musk ha introdotto alcune restrizioni per l’account Grok su X. Verrà bloccata la generazione di immagini sessualizzate per tutti gli utenti, non solo gli abbonati. La creazione e modifica delle immagini con Grok su X è invece disponibile solo per gli abbonati.

The Verge ha verificato che si possono ancora generare deepfake con l’app Grok anche senza abbonamento. Il Procuratore Generale della California ha comunicato l’avvio di un’indagine nei confronti di xAI, in quanto non ha bloccato la diffusione di immagini non consensuali sessualmente esplicite generate da Grok.

Il Procuratore ha ordinato a xAI di implementare azioni urgenti per impedire la generazione e diffusione dei deepfake. Le misure introdotte su X non sembrano sufficienti. In base alla legge approvata in California l’anno scorso sono previste sanzioni per i siti che pubblicano immagini sessualmente esplicite.

Un portavoce della Commissione europea ha dichiarato che verranno valute le misure introdotte da X. Se non si riveleranno efficaci potrebbe essere avviata un’indagine sulla base del Digital Services Act.