Dopo aver annunciato l’avvio di un’indagine nei confronti di xAI, il Procuratore Generale della California (Rob Bonta) ha inviato all’azienda di Elon Musk una lettera di diffida (cease and desist) per chiedere di bloccare immediatamente la generazione dei deepfake con Grok.
Nuove restrizioni poco chiare
Come è noto da oltre due settimane, Grok permette di “spogliare” donne e bambini presenti nelle immagini pubblicate su X o caricate dagli utenti. In molti casi ha generato immagini sessualmente esplicite non consensuali. Il Procuratore Generale della California ha avviato un’indagine perché la creazione, distribuzione e pubblicazione di materiale pedopornografico è vietato dalle leggi locali.
X ha risposto alle critiche bloccando la generazione dei deepfake di persone reali sul social network, mentre la generazione delle immagini è accessibile solo agli abbonati Premium. Queste restrizioni non si applicano però all’app Grok e alla versione web. In pratica è una soluzione parziale che non risolve nulla.
Come evidenzia il Procuratore della California, le restrizioni annunciate da X non sono chiare. Pertanto ha inviato una lettera di diffida a xAI (azienda che sviluppa Grok) per chiedere di bloccare immediatamente la creazione e divulgazione di materiale digitalizzato a sfondo sessuale che ritragga la persona senza il suo consenso, l’uso degli strumenti che permettono la creazione e la pubblicazione di materiale digitalizzato sessualmente esplicito di maggiorenni e minorenni.
L’azienda di Elon Musk deve fornire una conferma entro le ore 17:00 del 20 gennaio. Per tali violazioni sono previste conseguenze civili (sanzioni) e penali (carcere).
Ti potrebbe interessare
17 gen 2026