Meta ha denunciato Joy Timeline HK Limited, l’azienda che offre Crush AI. L’app permette di generare immagini esplicite e di nudo non consensuale di persone reali. L’obiettivo dell’azienda di Menlo Park è impedire la pubblicazione di annunci su Facebook, Instagram, Messenger e Threads.
Oltre 8.000 annunci in due settimane
Le cosiddette “nudify app” sono in costante aumento. Sfruttando l’intelligenza artificiale permettono di generare deepfake espliciti a partire da immagini di persone reali. Meta vieta la pubblicità di queste app, rimuove inserzioni, pagine Facebook e account Instagram, blocca i link ai siti che ospitano le app e filtra i relativi termini di ricerca.
L’azienda californiana ha ora deciso di denunciare Joy Timeline HK Limited, sviluppatore di Crush AI, in quanto ha cercato più volte di aggirare i controlli continuando la pubblicazione di annunci nonostante le numerose rimozioni. Meta ha chiesto al giudice un’ingiunzione per impedire a Joy Timeline di pubblicizzare Crush AI sulle sue piattaforme.
Un ricercatore (Alexios Mantzarlis) ha scoperto oltre 8.000 annunci di Crush AI su Facebook e Instagram nelle prime due settimane di gennaio. In base ad una recente indagine di CBS News, centinaia di inserzioni di “nudify app” sono state pubblicate su Facebook, Instagram, Messenger e Threads.
Meta ha rimosso gli annunci, cancellato le pagine e bloccato gli URL, ma è sempre più difficile individuare questo tipo di inserzioni. L’azienda di Menlo Park ha avviato lo sviluppo di una nuova tecnologia che migliora la rilevazione anche se l’annuncio non include nudità. È stato inoltre ampliato l’elenco di termini, frasi e emoji usati per l’addestramento dei sistemi che rilevano gli annunci.
Ti potrebbe interessare
12 giu 2025