C’è un’app sul Google Play Store che permette di generare immagini sessualizzate di persone reali senza il loro consenso. È classificata “T for Teen”, quindi accessibile a ragazzi dai 13 anni in su. E viola esplicitamente le regole pubbliche di Google su contenuti inappropriati e deepfake sessuali. Ed è Grok.
Purtroppo è ancora lì, scaricabile e perfettamente funzionante, come se le policy di Google fossero più suggerimenti vaghi che regole da rispettare. Non è che le regole non esistano. Google ha policy chiarissime contro app che creano contenuti sessuali non consensuali o deepfake. Ma forse quelle regole non si applicano quando l’app la fa l’uomo più ricco del mondo.
Perché Google non rimuove Grok dal Play Store, nonostante violi la policy
Recentemente, xAI di Elon Musk ha indebolito ulteriormente i paletti (non è che avesse protezioni così forti) sulla generazione di immagini su Grok. Il risultato è stato devastante: un’ondata di materiale sessuale non consensuale su X, soprattutto per bullizzare e intimidire le donne.
Molestare qualcuno con immagini sessualizzate false è una strategia oramai collaudata di intimidazione online. E Grok l’ha resa accessibile. Ma la cosa peggiore è che alcune persone hanno usato Grok per creare immagini sessualizzate di minori. Non di persone immaginarie. Di bambini reali, riconoscibili, con foto trasformate in contenuto sessuale.
I regolatori di mezzo mondo hanno avviato indagini su xAI. Ma nel frattempo, Google, che ha regole esplicite contro questo tipo di comportamento, non ha fatto assolutamente nulla.
Le regole che Google stesso ha scritto e poi ignorato
La pagina di supporto di Google sui “Contenuti inappropriati” non lascia spazio a dubbi, recita: Non consentiamo app che contengano o promuovano contenuti associati a comportamenti sessuali predatori o che distribuiscano contenuti sessuali non consensuali.
Qualcuno potrebbe pensare che si parli solo di contenuti “reali”, foto o video veri rubati o distribuiti senza consenso. Ma Google ha specificato che la norma copre anche l’intelligenza artificiale. Tra il 2020 e il 2021, quando spuntarono app che promettevano di “spogliare” le persone nelle foto, Google aggiunse esplicitamente che sono vietate app che creano deepfake sessuali o tecnologie simili.
Grok è esattamente questo, eppure è nel Play Store, classificata per adolescenti, come se fosse un gioco innocuo.
Il paradosso della classificazione d’età
Grok ha una classificazione “T for Teen” , cioè adatto a ragazzi dai 13 anni in su. L’app di X, la piattaforma dove Grok vive nativamente, è invece vietata ai minori. Allora perché la piattaforma madre è ritenuta troppo pericolosa per gli adolescenti, ma l’app che genera deepfake sessuali va bene?
E questa classificazione ha conseguenze pratiche. I controlli parentali standard di Google permettono ai ragazzi tra 13 e 17 anni di scaricare app classificate Teen. Quindi un genitore che ha impostato filtri per proteggere i figli potrebbe ritrovarsi con Grok installato sul telefono del figlio quattordicenne, perfettamente legale secondo Google. Un’app che può trasformare foto di compagni di scuola in materiale sessuale, a portata degli adolescenti.
La differenza tra X e Grok
Su X, per modificare immagini con Grok serve un piano premium a pagamento. È comunque problematico, ma almeno c’è una barriera economica minima. Sull’app separata di Grok non esiste alcuna limitazione del genere. Chiunque può scaricarla e iniziare a creare immagini.
E c’è un’evoluzione inquietante. L’anno scorso il problema erano nudi falsi di celebrità come Taylor Swift creati tramite prompt testuali. La nuova funzione di “editing” di Grok è peggio. Molto peggio. Si può prendere una foto reale di una persona reale e dire all’AI di trasformarla. Non bisogna descrivere nulla. Basta caricare la foto di qualcuno e l’AI fa il resto.
Intanto Google tace…
Ars Technica ha contattato Google per un riscontro, ma Big G ha rifiutato di rilasciare dichiarazioni. Ma il silenzio spesso conta come risposta. Significa che Google sa, ha regole che vietano esplicitamente questa situazione, e ha deciso di non applicarle.
Forse perché Elon Musk è troppo potente per essere trattato come un normale sviluppatore di app. Forse perché rimuovere Grok causerebbe un’esplosione mediatica che Google preferisce evitare. Forse perché applicare le proprie regole contro l’uomo più ricco del mondo è politicamente complicato. Qualunque sia la ragione, il risultato è lo stesso: le policy esistono, sono pubbliche, sono chiare, e vengono ignorate.
Apple vs Google: quando le regole vaghe funzionano meglio
Apple offre ancora Grok, è vero. Ma le regole di Apple sono più vaghe, lasciano spazio a interpretazione, permettono all’azienda di rimuovere app “a propria discrezione” senza dover giustificare con policy specifiche. Google invece ha costruito un regolamento dettagliato, trasparente, pubblico. Che è fantastico quando viene applicato.
Perché ora abbiamo una situazione surreale: Google ha scritto esattamente quali app sono vietate, Grok corrisponde perfettamente a quella descrizione, e Big G fa finta di niente. È peggio di non avere regole. Perché almeno senza regole non ci sarebbe l’ipocrisia di fingere di averle.
Ti potrebbe interessare
13 gen 2026