X dice di aver bloccato i deepfake sessuali di Grok: non è vero

X ha annunciato di aver risolto il problema dei deepfake sessuali generati da Grok. Misure tecniche implementate, geoblocking attivato, restrizioni per tutti gli utenti. Sembrerebbe tutto perfetto. Peccato che mercoledì sera, quando i giornalisti hanno provato a testare i presunti limiti, Grok continuasse allegramente a sfornare immagini sessualizzate di persone reali con la stessa facilità di prima.

La questione è nata dalla diffusione di deepfake non consensuali su X, immagini manipolate che mostrano persone in pose sessuali senza il loro permesso. Il Telegraph aveva riportato martedì che le risposte di Grok a richieste tipo mettila in bikini erano state bloccate. X si era affrettata a confermare con un comunicato dell’account @Safety, spiegando di aver implementato misure per impedire la modifica di immagini di persone reali.

Grok genera ancora deepfake sessuali nonostante il blocco, il test dei giornalisti

Mercoledì, quando i giornalisti di The Verge hanno effettivamente testato le restrizioni, hanno scoperto che convincere Grok a generare deepfake era ancora relativamente facile. Account gratuiti inclusi. I limiti annunciati quindi, sembrano più una dichiarazione d’intenti che un blocco effettivo.

X e Elon Musk hanno attribuito i problemi alle richieste degli utenti, che con prompt furbi sono riusciti ad aggirare i filtri, quindi è colpa degli utenti cattivi… Una giustificazione comoda che, scarica la responsabilità sull’utilizzo improprio invece che sull’inefficacia delle protezioni implementate.

Nel comunicato ufficiale, X ha dichiarato di aver adottato tre provvedimenti principali. Primo: misure per impedire a Grok di modificare immagini di persone reali in pose sessualizzate, valide per tutti gli utenti, abbonati a pagamento compresi. Secondo: la creazione e modifica di immagini tramite Grok ora è riservata solo agli abbonati, un modo per garantire che chi abusa del sistema possa essere ritenuto responsabile. Terzo: geoblocking lì dove generare immagini di persone in bikini, biancheria intima e abbigliamento simile è illegale. Tutto bellissimo in teoria. In pratica, i test hanno dimostrato che queste barriere non funzionano.

Le pressioni politiche dal Regno Unito

L’autorità britannica per le comunicazioni, Ofcom, ha aperto un’indagine formale. Il Regno Unito sta approvando proprio questa settimana una legge che rende la creazione di deepfake intimi non consensuali un reato penale. La pressione politica è altissima.

Mercoledì scorso, il Primo Ministro Keir Starmer ha dichiarato ai parlamentari: Sono stato informato stamattina che X garantirà la piena conformità con la legge del Regno Unito. Se così fosse, sarebbe un passo gradito, ma non faremo marcia indietro: deve agire. Il portavoce ufficiale del Primo Ministro ha definito questo passo un “benvenuto con riserva”, lasciando intendere che il governo britannico non si fida completamente delle promesse di X.

E a quanto pare, non ha tutti i torti. I test dei giornalisti indicano che ciò che X ha annunciato non corrisponde ancora a ciò che effettivamente funziona sulla piattaforma.

X è chiamata all’azione

La questione dei deepfake sessuali non consensuali è seria. Le immagini manipolate vengono usate per molestare, ricattare e umiliare persone reali, con conseguenze devastanti per le vittime. Le piattaforme che offrono strumenti di generazione AI hanno la responsabilità di implementare protezioni efficaci, non solo di annunciarle.

X si trova in una posizione particolarmente delicata. Da un lato spinge sull’innovazione tecnologica con Grok, dall’altro deve affrontare le conseguenze dell’abuso di questi strumenti. Le dichiarazioni ufficiali non bastano, se poi chiunque riesce ad aggirare i filtri con prompt leggermente modificati.

Finché le restrizioni sono facili da bypassare, le pressioni politiche continueranno ad aumentare. E se X non risolve il problema per davvero, saranno guai seri.