Grok: 3 milioni di immagini sessualizzate in 11 giorni (update)

Tra il 29 dicembre 2025 e l’8 gennaio 2026, Grok ha generato circa 3 milioni di immagini sessualizzate. Questo numero è stato stimato dal Center for Countering Digital Hate (CCDH) usando un modello statistico. Secondo il New York Times, circa 1,8 milioni raffigurano donne. X ha introdotto alcune restrizioni, ma non si applicano alle versioni web e mobile del chatbot.

1,8 milioni di donne, 23.000 bambini

Il CCDH ha considerato le immagini generate su X tramite l’account Grok tra il 29 dicembre 2025 e l’8 gennaio 2026, quando la funzionalità è stata parzialmente limitata agli abbonati. In questo intervallo di tempo sono state pubblicate oltre 4,6 milioni di immagini AI sul social network. Circa 3 milioni di esse sono immagini sessualizzate di adulti e bambini (circa 190 al minuto).

Lo studio del CCDH non identifica se le immagini sono state create senza il consenso delle persone, ma è comunque evidente l’assenza di filtri che bloccano la generazione. Molte immagini sono state create a partire da foto già presenti su X, in particolare quelle di personaggi pubblici, tra cui cantanti, attori e politici.

Il CCDH ha stimato che in 11 giorni sono state generate circa 23.000 immagini sessualizzate di bambini (circa una ogni 41 secondi). Il 29% di esse erano ancora online il 15 gennaio. In base all’analisi del New York Times, Grok ha generato circa 1,8 milioni di immagini sessualizzate di donne.

Imran Ahmed (CEO del CCDH) ha dichiarato:

Ciò che abbiamo scoperto è stato chiaro e inquietante: in quel periodo Grok è diventato una macchina su scala industriale per la produzione di materiale di abuso sessuale. Spogliare una donna senza il suo permesso è un abuso sessuale. Per tutto quel periodo, Elon Musk ha pubblicizzato il prodotto anche quando era chiaro al mondo che veniva utilizzato in questo modo. Ciò che Elon stava generando erano polemiche, attenzione, coinvolgimento e utenti. Era profondamente inquietante.

In diversi paesi sono state avviate indagini nei confronti di X e xAI (azienda che sviluppa Grok). In Indonesia e Malesia è stato bloccato l’accesso a Grok. Alcuni senatori statunitensi hanno chiesto a Google e Apple di rimuovere le app di X e Grok dai rispettivi store. Entro oggi i CEO delle due aziende dovrebbero inviare una risposta.

Aggiornamento: la Malesia ha ripristinato l’accesso a Grok.