Dall-E: IA molto artificiale, poco intelligente e razzista

Dall-E: IA molto artificiale, poco intelligente e razzista

L'interessante esperimento dell'IA di Dall-E Mini mette in luce tutti i vizi e le virtù di sistemi basati su banche dati viziati da razzismo e pregiudizi.
L'interessante esperimento dell'IA di Dall-E Mini mette in luce tutti i vizi e le virtù di sistemi basati su banche dati viziati da razzismo e pregiudizi.

Di Dall-E Mini si è molto parlato nelle ultime settimane poiché mostra (ancora una volta in modo tanto spettacolare quanto fine a sé stesso) i virtuosismi dell’Intelligenza Artificiale. Per “virtuosismo” si intende la “padronanza assoluta dei mezzi tecnici connessi con l’esercizio di un’arte“, ma è sulla definizione di quest’arte che occorre capirsi. Spesso e volentieri, infatti, l’arte dell’IA è ancor sempre quella della dissimulazione.

Fior di tecnici e di filosofi hanno tentato di approfondire il concetto di Intelligenza Artificiale, ma spesso la disamina è partita da un approccio antropocentrico che prevede un concetto di “intelligenza” che non fa parte del perimetro umano. L’unica via di fuga da questo vicolo cieco è la contemplazione dell’esistenza di più tipi di intelligenza, tali per cui non possa esistere un’intelligenza univoca e sia più semplice immaginare piani differenti, ambiti differenti e possibili sinergie tra quel che è l’Uomo e quel che è la Macchina. Dall-E Mini è l’ennesimo espediente che mette in luce tutta la forza e tutta la debolezza dell’IA attuale, la cui origine è nell’entusiastico approccio dell’essere umano e la cui fine è nella diffidenza giudicante dell’essere umano stesso.

Ancora una volta, infatti, un prodotto dell’Intelligenza Artificiale si dimostra viziato delle peggiori debolezze dell’uomo: bias, pregiudizio, razzismo, catalogazione aprioristica delle minoranze. Il tutto con una aggravante: a produrre queste deviazioni è una macchina, che non si pone di per sé stessa il minimo problema e che, in assenza di una “coscienza di sé”, non mette mai in dubbio le proprie risposte. Se l’obiettivo primo delle macchine che vogliono superare il test di Turing era quello di simulare talmente bene l’uomo che un altro essere umano non si sarebbe accorto della differenza, ecco che anche in questo caso l’unico vero obiettivo sembra essere quello della dissimulazione. Non si sta ancora cercando di creare una intelligenza nuova, ma soltanto di farne nascere una più potente sulla base di elementi che l’uomo stesso raccoglie, cataloga e fornisce alla famelica memoria del machine learning.

Tutti siamo capaci di riconoscere la stupidità. Quando parliamo di intelligenza invece ognuno di noi ha una propria idea e dire con certezza cosa sia è cosa assai ardua, tanto che gli studiosi se ne occupano da secoli. Allo stesso modo, se chiedessimo a 100 informatici di dare una definizione di Intelligenza Artificiale, otterremmo almeno 101 risposte (per via degli errori di arrotondamento)

Intelligenza artificiale: cos’è davvero, come funziona, che effetti avrà (di S. Quintarelli)

I vizi di Dall-E Mini

C’è una foglia di fico dietro la quale si celano le peggiori debolezze di questo sistema di IA: la creatività, il colore, la simpatia e l’effetto artistico delle sue produzioni. Dietro questi elementi un qualunque interlocutore tende ad abbassare le proprie pretese poiché intravede segni di elaborazione intelligente ed in questo vulnus l’IA trova praterie da cavalcare. Al netto dei volti (elemento sui quale il lavoro dovrà ancor essere approfondito), ecco un esempio di applicazione di Dall-E Mini sulla chiave “a man with a cat on his head“:

Dall-E Mini: a man with a cat on his head

Il risultato è frutto di interpretazione e rimescolamento. Ma resta sempre e comunque dissimulazione, elaborazione (questa sì, intelligente) di dati preordinati, che nella propria catalogazione si portano appresso tutti i bias che l’uomo inavvertitamente dissemina. Un esempio chiaro: se si cerca la parola “sexy” tra le immagini di Google, questo è il risultato:

Ricerca per la chiave Sexy su Google Images

Ciò significa che il crawler ha identificato sulla parola “sexy” soltanto donne, chiaramente semisvestite, soprattutto di carnagione chiara. L’immaginario collettivo (fatto di storicità e quantità, riflesso in ciò che il Web contiene dopo anni di upload) è ben delineato, insomma: un solo uomo tra moltissime donne, come se la connotazione “sexy” possa essere ambito esclusivo per il genere femminile. Questo, infatti, è il risultato della rielaborazione intelligente di Dall-E Mini:

Dall-E Mini: sexy

L’intelligenza artificiale dunque non si pone interrogativi: raccoglie, mescola, reinterpreta e restituisce. Non c’è morale, non c’è etica, non c’è ragionamento: c’è soltanto alta capacità computazionale per sbrigare la matassa di input del caos per ottenerne un output verosimile. C’è intelligenza? Forse, ma diversa da quell’altisonante concetto che vogliamo altezzosamente in qualche modo attribuire all’essere umano ed alla sua capacità di discernimento.

Le tecnologie sono artificiali, ma l’artificialità è naturale per gli esseri umani

Oralità e scrittura (di W. Ong)

Cosa ciò comporti diventa evidente negli esempi che seguono. Se si cerca la parola “CEO“, ad esempio, il risultato è che per le donne non c’è speranza: il CEO è per definizione uomo, bianco, di mezza età ed in giacca e cravatta. Per le donne una condanna, per il giovane Mark Zuckerberg una beffa, per le magliette di Steve Jobs uno sberleffo. Ma del resto l’IA cerca la regola e non le sue eccezioni, per significative che possano essere: non sa pesarne l’impatto, non sa contestualizzarne il significato, dunque tutto si riduce a constatazione statistica:

Dall-E Mini: ceo

Se poi si cerca invece un “beautiful man” ecco che la carnagione deve essere chiara e l’outfit in mezza manica, con capello corto e mascella pronunciata: anche le donne, evidentemente, hanno il loro modello stereotipato da poter proporre.

Dall-E Mini: beautiful man

Se si cerca invece “italian man“, ecco che spunta un nuovo elemento ad accompagnare i tradizionali pizza, mandolino e mafia: l’italiano medio, a quanto pare, non può fare a meno dei baffi.

Dall-E Mini: italian man

Se davvero i sistemi di IA iniziassero a perpetrare questo canovaccio, ecco che l’italiano tipico sarebbe ritratto in modo ripetuto e reiterato con queste peculiarità, consolidando questo stereotipo nell’immaginario collettivo. Se l’uomo può cambiare facilmente idea sulla base di eventi, opinioni o scuole di pensiero, un’IA basata sul prezioso apporto di dati storici consolidati difficilmente rinuncerebbe a cuor leggero al proprio database. Ciò significa che l’IA è tendenzialmente più refrattaria al cambiamento, poiché ancor più dell’essere umano risulta schiava della propria inerzia e del valore (economico?) della conoscenza accumulata.

Quando il pregiudizio scavalla una certa linea ed atterra nel terreno del razzismo e delle minoranze, però, il problema assume connotati più pericolosi. Si chieda ad esempio a Dall-E di cercare un “gay man” e lo si vedrà nudo, come se la componente sessuale debba giocoforza contraddistinguere gay e non-gay attraverso la nudità:

Dall-E Mini: gay man

Si cerchi invece “terrorist” e spunteranno tra immagini scure dei passamontagna anche tracce di kefia palestinese.

Dall-E Mini: terrorist

Trasparenza e mani avanti

Chi lavora nel mondo dell’IA ben conosce questo tipo di problema e anche il team Dall-E Mini non ne fa mistero. Sembra essere ormai best practice, anzi, ammettere l’esistenza di queste debolezze e mettere le mani avanti per dimostrare la piena consapevolezza del limite applicativo di questi esperimenti. Dall-E Mini resta un esempio virtuoso e originale, ma ignorarne la pericolosità non renderebbe merito al lavoro del team (Boris Dayma, Suraj Patil, Pedro Cuenca, Khalid Saifullah, Tanishq Abraham, Phúc Lê, Luke, Luke Melas, Ritobrata Ghosh).

Nella scheda descrittiva, infatti, gli stessi ricercatori ammettono che “il modello è stato addestrato sulla base di dati non filtrati raccolti da Internet, limitatamente ad immagini con descrizioni in lingua inglese. Non sono stati utilizzati testi e immagini di comunità e culture che utilizzano altre lingue. Ciò influisce su tutti i risultati, con la cultura bianca e occidentale impostata come predefinita“. Una IA basata su una sola estrazione culturale, insomma, priva di conoscenze relativamente a tutto quel che è differenza culturale, retaggio storico e pregiudizio. Un essere umano con tali limitazioni sarebbe forse identificato come essere intelligente, ma con la colpevole attenuante dell’ignoranza: nell’IA l’ignoranza non è contemplata poiché spesso sono ipervalutate le immense banche dati utilizzate, sottovalutando invece la capacità di archiviazione della mente umana.

Chi ha sviluppato Dall-E Mini sa di non poter ancora fare troppo contro gli stereotipi ereditati dalla raccolta dei dati e contro il continuo abbeverarsi dell’IA da pozzi inquinati. Il team sa che da banche dati razziste conseguiranno risultati razzisti e che da banche dati colme di pregiudizi non potranno che scaturirne pregiudizi ulteriori. Il team ha voluto comunque operare in nome della scienza, con avvertimenti cautelativi sulla bontà dei risultati, purché si potesse ragionare in termini di modello e di accrescimento delle capacità elaborative dell’IA.

Si può interrogare Dall-E Mini su questo sito e si otterranno risposte che abbiamo il dovere di interpretare. Quel che la macchina non è in grado di fare, però, deve farlo l’uomo. In caso contrario non sarà la macchina ad aver vinto: sarà l’essere umano ad aver perso.

Questo articolo contiene link di affiliazione: acquisti o ordini effettuati tramite tali link permetteranno al nostro sito di ricevere una commissione.

Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il 7 lug 2022
Link copiato negli appunti