Se si prova a cercare “nudify” o “undress” sull’App Store o su Google Play, si troveranno app che usano l’AI per “spogliare” persone reali nelle foto o per inserirle all’interno di video pornografici. Alcune sono classificate “E”, Everyone, adatte a tutti, inclusi i bambini.
Le piattaforme non solo ospitano queste app, ma le promuovono attivamente, con annunci nei risultati di ricerca. Apple e Google hanno entrambe policy esplicite contro contenuti sessuali, eppure queste app sono lì da mesi, hanno generato 122 milioni di dollari di ricavi e sono state scaricate 483 milioni di volte. Secondo il nuovo report del Tech Transparency Project, il problema non è solo la presenza, è la promozione.
Apple e Google promuovono app “nudify” nei loro store, alcune classificate per bambini
Il Tech Transparency Project ha identificato 18 app nudify nell’App Store di Apple e 20 su Google Play. Alcune si presentano con immagini sessualmente esplicite; altre non lo fanno ma possono essere usate per creare deepfake pornografici di persone reali.
Uno degli esempi citati è “Video Face Swap AI: DeepFace”, un’app che nella sua presentazione mostra il viso di un’attrice trasferito sul corpo di un’altra attrice, permettendo agli utenti di sovrapporre il volto di una persona reale ai corpi di donne parzialmente svestite. Anche in questo caso, è classificato per tutti, bambini compresi.
Il totale: 483 milioni di download e 122 milioni di dollari in ricavi. Entrambe le piattaforme prendono la loro percentuale.
Perché Apple e Google promuovono queste app
Non è solo che le aziende falliscono nel revisionare adeguatamente queste app e continuano ad approvarle e a trarre profitto da esse,
ha detto a Bloomberg Katie Paul, direttrice del Tech Transparency Project. Stanno attivamente indirizzando gli utenti verso le app stesse.
Il dettaglio che distingue questo scandalo dai precedenti è la promozione attiva, gli store mostrano annunci di app nudify nei risultati di ricerca. Non è negligenza, è pubblicità.
La risposta delle piattaforme
Apple ha detto a Bloomberg di aver rimosso 15 delle app identificate dal report. Google ha dichiarato: Google Play non permette app che contengono contenuti sessuali. Quando vengono segnalate violazioni delle nostre policy, investighiamo e prendiamo le azioni appropriate. Molte delle app citate nel report sono state sospese da Google Play. Il nostro processo di investigazione è in corso.
Come mai la rimozione avviene solo dopo che un’organizzazione indipendente pubblica un report? Le policy esistono da anni. I sistemi di moderazione esistono. Le app erano visibili a chiunque facesse una ricerca banale sullo store…
La pressione normativa aumenta
La proliferazione di app nudify e deepfake sta spingendo i governi verso la regolamentazione. Il Children’s Commissioner del Regno Unito ha chiesto un divieto esplicito per le app AI che generano immagini sessuali di minori. Gli Stati Uniti e altri Paesi hanno proposto o approvato leggi contro i deepfake espliciti. Il procuratore generale della California ha recentemente inviato una diffida a X di Elon Musk per i deepfake espliciti generati da Grok.
Il copione purtroppo, è sempre lo stesso: le piattaforme si muovono solo quando arriva la pressione esterna, report, governi, minacce legali, non per iniziativa propria. Se l’App Store ha policy contro i contenuti sessuali, ma ospita 18 app nudify, la policy non funziona. Se Google Play vieta esplicitamente le app che spogliano, ma ne ospita 20, la policy non funziona. La stortura viene corretta solo se spunta qualcuno che obbliga a farlo, e nel frattempo, le app rimangono, guadagnano e vengono pubblicizzate.
Ti potrebbe interessare
16 apr 2026