Molti utenti hanno sicuramente visto le immagini di Papa Francesco che indossa un giubbotto imbottito di colore bianco. Quelle immagini sono deepfake creati con l’ultima versione di Midjourney. Il servizio è stato utilizzato anche per generare le immagini dell’arresto di Donald Trump. L’azienda fondata da David Holz ha deciso di bloccare l’accesso gratuito per evitare abusi della tecnologia.
Troppi deepfake: Midjourney chiude la prova gratuita
DALL-E 2, integrato in Bing Image Creator, è sicuramente la tecnologia più popolare. Ma ci sono altri servizi che consentono di creare immagini inesistenti a partire da una descrizione testuale. Uno di essi è Midjourney. La recente versione 5 ha notevolmente migliorato la qualità delle immagini, raggiungendo quasi un livello fotorealistico. In molti casi è difficile capire che si tratta di deepfake.
Midjourney consentiva di generare gratuitamente 25 immagini su Discord, prima di sottoscrivere l’abbonamento a 10 dollari/mese. Circa sette mesi fa, il fondatore e CEO David Holz aveva dichiarato che era impossibile creare deepfake. Quella affermazione non è più valida con la versione 5 della tecnologia.
Holz ha comunicato che l’accesso gratuito è stato bloccato per evitare abusi. L’azienda ha implementato diversi filtri per impedire la generazione di alcuni tipi di immagine. Ad esempio non è possibile usare la parola “arrested” nella descrizione, ma le restrizioni possono essere facilmente aggirate.
Ieri alcuni esperti e noti imprenditori, tra cui Elon Musk, avevano evidenziato i rischi derivanti dalle intelligenze artificiali generative, chiedendo di sospendere lo sviluppo per almeno sei mesi.
Ti potrebbe interessare
30 mar 2023