Continua ad aumentare il numero di indagini nei confronti di xAI per i deepfake sessuali non consensuali generati da Grok tra fine 2025 e inizio 2026. Stavolta è arrivata dalla città di Baltimora guidata dal giovane Sindaco Brandon Scott (41 anni) del Partito Democratico. Nella denuncia (PDF) sono citate anche X (acquisita da xAI) e SpaceX (che ha acquisito xAI).
Violazione della legge che protegge i consumatori
Nella denuncia, presentata lo scorso 24 marzo, sono riepilogati i fatti accaduti da fine 2025. In seguito alle richieste degli utenti, Grok ha iniziato a generare deepfake sessualizzati delle persone presenti nelle immagini caricate su X o nell’app, senza il loro consenso. Secondo la stima del Center for Countering Digital Hate, tra il 29 dicembre 2025 e l’8 gennaio 2026 sono state generate circa 3 milioni di immagini, tra cui circa 23.000 di bambini.
I termini di servizio di X e xAI vietano la pubblicazione e generazione di contenuti sessuali non consensuali di persone reali. Nonostante ciò, le aziende di Elon Musk non hanno implementato adeguate protezioni o un sistema di verifica dell’età. La funzionalità non è stata rimossa, ma solo resa accessibile esclusivamente agli abbonati. Tale pratica è considerata sleale e ingannevole dalla Consumer Protection Ordinance della città di Baltimora.
Il Sindaco Brandon Scott ha dichiarato:
Questi deepfake, soprattutto quelli che ritraggono minori, hanno conseguenze traumatiche e permanenti per le vittime, che non hanno modo di impedire la diffusione di immagini inquietanti e sessualizzate create senza il loro consenso. Stiamo parlando di aziende tecnologiche che rendono possibile lo sfruttamento sessuale dei bambini. La nostra città non resterà a guardare e non permetterà che ciò continui. È una minaccia alla privacy, alla dignità e alla sicurezza pubblica, e i responsabili devono essere chiamati a risponderne.
Nella denuncia viene chiesto un risarcimento danni per ogni violazione. Baltimora è la prima città degli Stati Uniti a denunciare le aziende di Musk. A metà gennaio era arrivata la denuncia della California con successiva diffida. Da maggio 2025 è in vigore il Take It Down Act, una legge federale che vieta la pubblicazione di immagini intime e deepfake non consensuali con l’obbligo di rimozione entro 48 ore dalla segnalazione, ma non è stata applicata per Grok.
Anche la Commissione europea ha avviato un’indagine per la possibile violazione del Digital Services Act. Il Parlamento europeo ha invece aggiunto all’AI Act il ban per i sistemi AI che creano o manipolano immagini sessualmente esplicite o intime di soggetti identificabili senza il loro consenso.
Ti potrebbe interessare
28 mar 2026