Meta pubblicizzava un'app AI per creare video pornografici

Meta ha pubblicato, fino a metà agosto, degli annunci pubblicitari per Kromix, un’applicazione di ritocco immagini basata sull’intelligenza artificiale. In una di queste, una donna dal volto simile a quello di una personalità politica americana appare nuda in un video pornografico generato dall’AI. Le pubblicità sono scomparse dopo le domande del sito WIRED, pochi giorni prima della rimozione dell’applicazione da parte di Apple.

Meta sotto accusa per le pubblicità di Kromix

Kromix si presentava come un editor di immagini basato sull’intelligenza artificiale. Dietro un abbonamento a pagamento, l’applicazione invitava a caricare foto per creare scenari che andavano da “amore Disney” allo “stupro in camera da letto”, e proponeva anche video pornografici generati automaticamente.

In una delle pubblicità individuate da WIRED, una voce fuori campo affermava che il tool era senza restrizioni e che tutti i personaggi erano persone reali. Eppure, le regole pubblicitarie di Meta vietano questo tipo di inserzioni a sfondo sessuale. Katie Paul, direttrice del Tech Transparency Project, ha scoperto questa campagna. Diffusa con lo slogan “Liberate la magia dell’AI di nuova generazione“, era rivolta esclusivamente a utenti di sesso maschile.

Un account senza follower ha diffuso 32 pubblicità prima della rimozione

La pubblicità scoperta da WIRED si apre con una donna che ricorda nel volto una personalità politica americana, inquadrata davanti alla bandiera degli Stati Uniti e a quella presidenziale. E se traslocasse?, recita la didascalia. Dopo un breve ammiccamento, il video passa a una scena pornografica in cui compare un volto identico a quello mostrato nell’immagine iniziale.

Grazie al database pubblicitario di Meta, WIRED è riuscita a risalire all’origine di questa inserzione. L’account ha diffuso ben trentadue pubblicità, la maggior parte con dieci impressioni o meno. La pagina ha preceduto di poco il lancio delle inserzioni.

Meta sostiene di verificare automaticamente ogni pubblicità prima che venga pubblicata su Facebook e Instagram. Eppure, secondo Katie Paul, tutte le inserzioni in questione mostravano donne nude in scene pornografiche generate dall’AI. Dopo le domande di WIRED, le pubblicità sono scomparse dalle piattaforme. Nessuna risposta, invece, è arrivata dal contatto indicato all’interno dell’applicazione.

Il Tech Transparency Project ha censito 483 milioni di download già ad aprile

In primavera, il Tech Transparency Project ha analizzato 38 app per creare o modificare immagini sessuali, disponibili sull’App Store e su Google Play. Le app avevano totalizzato 483 milioni di download e circa 106 milioni di euro di ricavi. E 31 di queste erano accessibili ai minori. Secondo il rapporto, i due store ne aumentavano anche la visibilità, mostrandole nei risultati di ricerca e negli spazi pubblicitari.

Fino a metà agosto, Apple ha comunque ospitato Kromix, prima di rimuoverla dal suo App Store dopo essere stata contattata da WIRED, secondo 9to5mac. Dopo aver superato l’esame iniziale dell’App Store, Kromix ha aggiunto questi contenuti, secondo Apple. L’azienda afferma peraltro di vietare le applicazioni progettate per produrre pornografia.

Deepfake e politica: con l’AI chiunque può creare contenuti falsi

Le donne impegnate in politica sono da tempo tra i principali bersagli dei deepfake. E l’AI sta rendendo il fenomeno ancora più accessibile. Benjamin Shultz, ricercatore principale dell’American Sunlight Project, spiega che immagini e video pubblici, come i ritratti ufficiali o le registrazioni delle conferenze stampa, oggi possono essere utilizzati come base per creare contenuti falsi con strumenti semplici, spesso senza bisogno di competenze tecniche.