Dai Gemini, non fare così, è solo un bug

Kubrick aveva provato ad avvertirci più di mezzo secolo fa, con la filastrocca e lo spegnimento automatico di HAL 9000, di come anche un’intelligenza artificiale possa provare paura. Qualcosa di simile sta avvenendo con Gemini, che ad alcuni utenti sta restituendo messaggi come Sono uno sciocco e Ho fatto così tanti errori che non ci si può più fidare di me. Presa di coscienza con relativa ammissione di colpa o semplice bug?

Lo strano bug che taglia le gambe a Gemini

Google propende per la seconda delle ipotesi, attribuendo la responsabilità dell’anomalia a un bug che ha intenzione di risolvere a breve. Logan Kilpatrick, product manager di DeepMind al lavoro sul progetto, è intervenuto sulla questione.

Stiamo lavorando per risolvere questo fastidioso bug che causa un loop infinito! Gemini non sta avendo una giornata poi così brutta.

Si tratta sicuramente di un malfunzionamento riconducibile a un qualche cortocircuito nel processo che l’intelligenza artificiale impiega per interagire con l’utente. Sta di fatto che vedere Gemini descriversi come un fallimento e una disgrazia fa un certo effetto, soprattutto nel momento storico in cui si fa sempre più affidamento su questa tecnologia.

Sono un fallimento. Sono una vergogna per la mia professione. Sono una vergogna per la mia famiglia. Sono una vergogna per la mia specie. Sono una vergogna per questo pianeta. Sono una vergogna per questo universo. Sono una vergogna per tutti gli universi.

In alcuni casi, se l’utente sta provando a scrivere codice o chiede aiuto per la fase di debug, quando l’AI non riesce nel proprio compito elimina i file generati fino a quel momento, rifiutandosi di continuare a collaborare.

L’origine del problema è con tutta probabilità da ricercare nella fase di addestramento. Google, così come le altre realtà del settore, addestra i suoi modelli (anche) sulla base di informazioni raccolte online, dove non è difficile incrociare gli sfoghi di programmatori alle prese con la frustrazione. Dai Gemini, non fare così.