Nightshade, il tool per gli artisti che avvelena l'IA

Nightshade, il tool per gli artisti che avvelena l'IA

È disponibile per il download gratuito la prima versione di Nightshade, lo strumento che avvelena i modelli IA proteggendo il copyright.
Nightshade, il tool per gli artisti che avvelena l'IA
È disponibile per il download gratuito la prima versione di Nightshade, lo strumento che avvelena i modelli IA proteggendo il copyright.

I ricercatori dell’Università di Chicago, già al lavoro sul progetto Glaze messo in campo con finalità simili, hanno annunciato l’arrivo di Nightshade. Presentato nei mesi scorsi, lo strumento permette agli artisti di avvelenare i sistemi di intelligenza artificiale, così da impedire (o quantomeno ostacolare) la fase di addestramento basata sullo scraping delle loro opere ed evitando le conseguenti violazioni del copyright durante la generazione di nuovi contenuti.

Disponibile la prima versione di Nightshade

Il tool è ora disponibile, in download gratuito con la versione 1.0 rilasciata per Windows e macOS. Per tutti i dettagli in merito al funzionamento rimandiamo alla guida presente sulle pagine del sito ufficiale. È possibile utilizzarlo anche offline.

Come funziona? Basato sul framework open source di machine learning PyTorch, prima identifica quanto rappresentato all’interno di un’immagine, poi applica modifiche ai pixel, invisibili all’occhio umano, ma in grado di ingannare i sistemi di intelligenza artificiale, che vedranno qualcosa di totalmente diverso. Di conseguenza, quando il file sarà esaminato da strumenti come quello impiegato da OpenAI per l’addestramento di DALL·E, rivelerà informazioni fittizie. In un esempio fornito dagli sviluppatori, è possibile far sì che l’opera raffigurante un’automobile possa essere interpretata come un’illustrazione con una mucca.

Operazioni di editing come ridimensionamento, ritaglio o compressione non dovrebbero intaccare l’efficacia del tool.

I requisiti richiesti per l’uso di Nightshade sono un PC con sistema operativo Windows 11 o Windows 10 (con supporto per alcune GPU di NVIDIA) oppure, nel caso di un Mac, un modello con chip Apple M1, M2 o M3. Le due release pesano rispettivamente 255 MB e 2,6 GB.

Il team al lavoro sul progetto afferma che il nuovo strumento non sostituisce Glaze (utile per far credere all’IA che l’immagine in questione abbia uno stile differente), consigliando di utilizzare prima l’uno e poi l’altro (prima Nightshade, poi Glaze) per una migliore efficacia. Più avanti, sarà rilasciata una nuova versione che li integrerà entrambi.

Fonte: Nightshade
Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il 22 gen 2024
Link copiato negli appunti