Francia, India e Malesia hanno avviato indagini nei confronti di X per la pubblicazione di immagini sessualizzate di minori generate da Grok. L’azienda di Elon Musk ha rimosso i contenuti e chiuso gli account degli utenti, ma non ha confermato se e come è stata bloccata la creazione delle immagini.
X scarica la responsabilità sugli utenti?
Da fine dicembre 2025 sono state condivise su X molte immagini che raffigurano minori in biancheria intima o donne in bikini. Alcuni utenti hanno utilizzato le foto già presenti sul social media o caricato nuove foto e chiesto a Grok di togliere i vestiti. Futurism ha scoperto immagini AI ancora più raccapriccianti, come quelle con donne che subiscono abusi sessuali.
È chiaro che le protezioni di Grok per bloccare la generazione di contenuti vietati dai termini del servizio non sono efficaci. L’azienda di Elon Musk ha comunicato tramite il profilo Safety che i contenuti sono stati rimossi e gli account sono stati chiusi:
Prendiamo provvedimenti contro i contenuti illegali su X, tra cui il materiale pedopornografico (CSAM), rimuovendoli, sospendendo definitivamente gli account e collaborando con le amministrazioni locali e le forze dell’ordine, se necessario. Chiunque utilizzi Grok o inciti a creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali.
Viene quindi specificato che gli utenti sono considerati responsabili delle immagini generate da Grok, anche se il chatbot non dovrebbe generarle.
In seguito alla diffusione di questi contenuti, il Ministro delle comunicazioni indiano ha ordinato a X di implementare misure correttive per Grok entro 72 ore, specificando che l’azienda di Musk è responsabile per i contenuti pubblicati dagli utenti.
Quasi contemporaneamente, le autorità francesi hanno avviato un’indagine che potrebbe portare a sanzioni e condanne penali. Nei prossimi giorni non si esclude l’intervento della Commissione europea per la possibile violazione del Digital Services Act.
Infine, la Malaysian Communications and Multimedia Commission (equivalente all’italiana AGCOM) ha avviato un procedimento per la violazione del Communications and Multimedia Act del 1998.
Aggiornamento (6/01/2026): possibili indagini anche in Europa e Regno Unito.
Ti potrebbe interessare
5 gen 2026