Porno e deepfake: i casi si moltiplicano

Su Telegram circola la segnalazione di un servizio web based che consente di produrre al volo false immagini porno a partire da qualsiasi selfie.
Su Telegram circola la segnalazione di un servizio web based che consente di produrre al volo false immagini porno a partire da qualsiasi selfie.

Quando il deepfake si mescola alla politica, gli effetti sono pericolosi ed i precedenti scoperti sul volto di Barack Obama (a suo tempo) fecero scalpore. Quando il deepfake si mescola al porno, invece, gli effetti sono esplosivi ed i dati raccolti dai ricercatori Sensity non fanno che confermare questa dinamica.

Porn deepfake as a service

Secondo quanto rivelato, un bot per il deepfake sarebbe stato scoperto online e sarebbe alla base di almeno 100 mila soggetti femminili le cui immagini modificate sono state condivise su vari canali Telegram dal mese di luglio a oggi. I ricercatori sono chiari in questo: il numero dei falsi prodotti è ben più elevato, ma la cifra ufficiale di quelli ritrovati già restituisce bene la misura di quel che è il fenomeno. La produzione è inoltre continua e destinata a moltiplicarsi in virtù del fatto che la segnalazione continua a propagarsi e la produzione, quindi, aumenta.

Il servizio è web based, un’evoluzione del già noto “DeepNude“: si carica l’immagine di una donna e se ne ottiene un fotomontaggio estremamente realistico del volto su un corpo nudo. A questo punto si può scegliere se pubblicare l’immagine direttamente o scaricarla: se si utilizza un profilo gratuito l’immagine avrà una filigrana sovrapposta, se invece si utilizza un account a pagamento (8 euro) si possono ottenere oltre 100 fotomontaggi di questo tipo senza filigrana alcuna.

L’impatto è chiaramente potenzialmente molto forte, poiché è sufficiente prelevare un selfie qualsiasi dal Web, fare un fotomontaggio al volo e quindi divulgarlo: quando le immagini sono sufficientemente realistiche, potrebbero avere un impatto reputazionale enorme e gravi conseguenze psicologiche. Un servizio dall’impatto pericoloso, quindi, le cui responsabilità vanno condivise tra chi lo sta proponendo e chi lo andrà ad utilizzare.

Il problema sta nel fatto che sarà sempre più difficile arginare servizi di questo tipo, soprattutto quando si tratta di semplici elementi grafici che, una volta eliminati da un server, spunteranno su di un altro. Inevitabilmente ciò cambierà la sensibilità rispetto alle immagini porno e le valutazioni di legislatori che avranno un’arma in più per limitare il Web. Ma il tema, inevitabilmente, si pone: come poter limitare servizi di tale pericolosità senza intaccare libertà altrui? Telegram, peraltro, è nuovamente al centro della questione e presto o tardi si chiederà conto al servizio per questo ed altri problemi (copyright in primis).

Il dibattito è servito, alla prossima miccia il tema è destinato a deflagrare.

Fonte: Sensity
Link copiato negli appunti

Ti potrebbe interessare

21 10 2020
Link copiato negli appunti