A partire da fine dicembre 2025, diversi utenti hanno notato che Grok genera immagini sessualizzate di minori su X. È sufficiente chiedere al chatbot di “spogliare” i bambini presenti nelle foto. Lo stesso risultato si ottiene con immagini di donne. L’azienda di Elon Musk ha successivamente rimosso le immagini e bloccato la generazione. Il governo francese ha chiesto l’avvio di un’indagine.
Lacune nelle misure di sicurezza
Grok ha già dimostrato ampiamente le sue “capacità” con post antisemiti e fake news di ogni genere, come quelle sull’attentato a Bondi Beach in Australia. A fine dicembre 2025, il chatbot ha iniziato a generare e condividere immagini di minori in biancheria intima e donne in bikini. Alcuni utenti hanno caricato le foto o usato quelle già presenti su X e chiesto a Grok di togliere i vestiti.
La sessualizzazione dei minori è vietata dai termini d’uso del servizio. Lo stesso chatbot ha risposto ad un utente che si tratta di una violazione della legge e che sono previste sanzioni (civili e penali) per chi pubblica le immagini e per la piattaforma online che non le rimuove.
Grok ha quindi scritto che ci sono state lacune nelle misure di sicurezza, risolte con urgenza. Teoricamente sono disponibili filtri che bloccano la generazione di queste immagini, ma alcuni utenti hanno aggirato la protezione con specifici prompt.
Una parlamentare indiana ha inviato una lettera al Ministro delle comunicazioni per chiedere di intervenire immediatamente. Il governo francese ha presentato una denuncia e segnalato i contenuti vietati ad Arcom (equivalente all’italiana AGCOM) per valutare se è stato rispettato il Digital Services Act.
Ti potrebbe interessare
2 gen 2026