Il Procuratore Generale di San Francisco (David Chiu) ha ordinato a Apple e Google di rimuovere 13 app di nudificazione dai rispettivi store. Nelle diffide è scritto che le due aziende non possono agevolare la diffusione di immagini intime non consensuali, in quanto vietato dalla legge statale. Devono anche interrompere la collaborazione con gli sviluppatori. Alcune delle app sono state rimosse.
Deepfake sessuali sempre più diffusi
Sia Apple che Google vietano la pubblicazione di app con contenuti sessuali. Nonostante ciò, i ricercatori di Tech Transparency Project hanno trovato sui rispettivi store oltre 100 app che consentono di spogliare persone reali. Venivano anche suggerite dall’algoritmo di ricerca e alcune di esse erano classificate per tutti, quindi accessibili a minorenni.
Ciò evidenzia che i controlli automatici o manuali non sono molto efficaci e dimostra che la “scusa” della sicurezza usata da Apple per opporsi al rispetto del Digital Markets Act non regge. Il Procuratore Generale della California ha ordinato alle due aziende di rimuovere 13 app di nudificazione in totale (otto da App Store e cinque da Play Store). Permettono di creare deepfake sessuali sfruttando l’intelligenza artificiale.
Le app offrono contenuti a pagamento, quindi Apple e Google hanno anche ottenuto un guadagno dalle commissioni pagate dagli sviluppatori. Un portavoce di Google ha dichiarato che le cinque app segnalate dal Procuratore sono state rimosse.
Google Play non consente app che contengono contenuti sessuali e adottiamo costantemente misure proattive per individuare e rimuovere le app con contenuti dannosi. Quando ci vengono segnalate violazioni, indaghiamo e interveniamo tempestivamente, il che, nel caso di queste app, ha incluso la sospensione di centinaia di app che violavano le norme e la limitazione dei termini di ricerca correlati come “nudify” sul nostro store.
Un portavoce di Apple ha comunicato che sono state rimosse tre delle app segnalate e gli account degli sviluppatori verranno chiusi.
App Store è stato concepito per essere un luogo sicuro e affidabile per gli utenti e abbiamo sempre vietato rigorosamente le app progettate per generare, distribuire o consumare materiale pornografico. Le app di nudificazione violano le nostre linee guida e ne abbiamo respinte molte in modo proattivo, oltre ad averne rimosse molte altre, anche quando gli utenti le hanno segnalate tramite i nostri strumenti di segnalazione.
Il problema dei deepfake sessuali riguarda praticamente tutte le piattaforme. SpaceXAI ha recentemente denunciato un utente per aver creato immagini e video aggirando le protezioni di Grok. I deepfake AI vengono anche distribuiti su Instagram. Il Parlamento europeo ha approvato il divieto delle app di nudificazione.
Ti potrebbe interessare
19 lug 2026