Deepfake Taylor Swift: Microsoft aggiorna Designer

Deepfake Taylor Swift: Microsoft aggiorna Designer

Microsoft ha aggiornato i filtri di Designer per bloccare la generazione di immagini di nudità non consensuale tramite la manipolazione dei prompt.
Deepfake Taylor Swift: Microsoft aggiorna Designer
Microsoft ha aggiornato i filtri di Designer per bloccare la generazione di immagini di nudità non consensuale tramite la manipolazione dei prompt.

Microsoft ha aggiornato Designer per bloccare la generazione dei deepfake di Taylor Swift. I membri di 4chan e di un canale Telegram avevano trovato il modo di aggirare le protezioni del servizio per creare immagini a luci rosse della cantante, successivamente pubblicate su X (l’azienda californiana ha temporaneamente bloccato la ricerca dei contenuti).

Microsoft chiude il loophole di Designer

Microsoft Designer, come altri simili servizi, impedisce di generare immagini vietate dal codice di condotta. È tuttavia sufficiente alterare i prompt per aggirare i filtri. Un portavoce dell’azienda di Redmond aveva evidenziato che l’uso del tool per creare immagini di nudità non consensuale è proibito.

Durante un’intervista a NBC News, il CEO Satya Nadella aveva sottolineato la necessità di migliorare le protezioni per impedire la generazione dei deepfake. In base ai test effettuati da 404 Media e dai messaggi pubblicati su 4chan e sul canale Telegram, il loophole (scappatoia) non funziona più. Microsoft non ha ovviamente svelato come è stata bloccata la generazione delle immagini di nudo su Designer (che sfrutta il modello DALL-E 3 di OpenAI).

Il canale Telegram, che ha decine di migliaia di iscritti, non è stato chiuso e continua a condividere immagini esplicite di persone reali generate con altri tool IA. Alcuni utenti di 4chan affermano di aver già trovato altri exploit per Bing Image Creator e Designer che permettono di creare deepfake. Nel frattempo, X ha comunicato di aver ripristinato le ricerche su Taylor Swift.

Fonte: 404 Media
Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il 30 gen 2024
Link copiato negli appunti