Anche il numero uno Sundar Pichai è intervenuto sulla questione relativa alla generazione delle immagini con l’IA di Gemini, falsata da errori storici e da altri comportamenti anomali che hanno fatto suonare un campanello d’allarme. Lo strumento, lo ricordiamo, è stato messo offline non appena emersi feedback negativi, così da poter correggere il tiro e tornerà operativo entro le prossime settimane. Queste le sue parole, estrapolate (e tradotte) da una nota circolata internamente alla società.
Voglio affrontare le recenti questioni a proposito delle risposte testuali e grafiche problematiche restituite dall’applicazione di Gemini (ex Bard). So che alcune di queste hanno offeso i nostri utenti e mostrato pregiudizi. Per essere chiaro, questo è del tutto inaccettabile e abbiamo sbagliato.
Gemini, IA ed errori: il commento di Sundar Pichai
A pubblicarne il testo è stata per prima la redazione di Semafor, a cui rimandiamo per la versione integrale. Si legge che i responsabili dell’iniziativa stanno lavorando 24 ore al giorno per risolvere questi problemi
e che si sta già riscontrando un migliora1mento sostanziale su un’ampia gamma di prompt
.
Tra gli errori riscontrati, alcuni sono relativi alla raffigurazione di soldati nazisti con tratti somatici asiatici oltre a padri fondatori e papi dalla pelle nera. Qui sotto alcuni esempi.
This is not good. #googlegemini pic.twitter.com/LFjKbSSaG2
— LINK IN BIO (@__Link_In_Bio__) February 20, 2024
La fiducia degli utenti e la natura imperfetta dell’IA
È anzitutto una questione di fiducia. Il CEO di Google e Alphabet sa bene quanto un passo falso possa costare in termini di reputazione.
La nostra missione, finalizzata a organizzare le informazioni del mondo rendendole universalmente accessibili e utili, è sacrosanta. Abbiamo sempre cercato di offrire agli utenti informazioni utili, accurate e imparziali attraverso i nostri prodotti. Ecco perché le persone hanno fiducia in noi. Questo dev’essere il nostro approccio per tutti i nostri prodotti, inclusi quelli emergenti di intelligenza artificiale.
Il passaggio più interessante della nota condivisa da Sundar Pichai è però forse un altro, quello in cui si fa riferimento a un livello di imperfezione insito negli odierni sistemi di intelligenza artificiale, almeno al loro stato attuale.
Nessuna intelligenza artificiale è perfetta, in particolare in questa fase emergente di un settore che si sta sviluppando.
La creazione delle immagini attraverso l’IA generativa di Gemini tornerà online solo quando ritenuta sufficientemente affidabile e precisa. Al momento non sono state fornite tempistiche precise. Il processo di revisione in atto passa, tra le altre cose, attraverso quelli che sono definiti cambiamenti strutturali e da un aggiornamento delle linee guida. In chiusura, Pichai torna a ribadire l’importanza del concetto di fiducia, quasi fosse un mantra.
Concentriamoci su ciò che conta di più: realizzare prodotti utili che merita la fiducia dei nostri utenti.