ChatGPT non riesce a dire l'ora esatta, ecco perché

Il mondo di ChatGPT è bizzarro. Può scrivere email e codice perfetto, ma incespica su una domanda a cui sapremmo rispondere anche svegliandoci nel cuore della notte. E non si tratta di un bug. È una conseguenza diretta di come sono progettati i grandi modelli linguistici.

Perché l’intelligenza artificiale non sa che ore sono?

Chiunque può cimentarsi in questo esperimento. Basta aprire ChatGPT e chiedere semplicemente che ore sono?. A volte darà una risposta approssimativa, magari accompagnata da una scusa cortese su come non possa accedere direttamente al sistema del proprio dispositivo per dare l’ora esatta. Altre volte, e qui la cosa diventa surreale, sparerà un orario completamente inventato.

La cosa divertente è che se si prova a chiedere l’ora pochi secondi dopo, potrebbe dare una risposta completamente diversa. Non perché nel frattempo siano passate ore, ma perché ogni volta che genera una risposta, sta letteralmente inventando un valore che suona plausibile basandosi su probabilità statistiche.

C’è un trucco infallibile, però, è sufficiente chiedergli di fare una ricerca online. A quel punto ChatGPT va effettivamente a controllare e restituisce l’ora corretta. Ma si dovrà specificare, altrimenti resterà nel suo mondo parallelo…

E non è solo ChatGPT a soffrire di questo problema. Claude, per dire, non riesce proprio a dire l’ora nemmeno se si ordina esplicitamente di andare sul web a verificare. L’unica eccezione alla regola è Gemini, che ha la decenza di fare automaticamente una ricerca senza costringere a chiederlo per favore.

Le stranezze degli LLM

La ragione dietro questa stranezza sta nel funzionamento stesso dei modelli linguistici di grandi dimensioni. Questi sistemi non sono database che leggono informazioni, non hanno accesso diretto ai dati del proprio computer o dello smartphone. Vivono in un ambiente completamente isolato, una specie di stanza sigillata dove l’unica cosa che sanno fare è generare testo basandosi su schemi appresi durante l’addestramento.

Quando ChatGPT dice che sono le 18:45, ad esempio, non sta leggendo un orologio. Sta semplicemente producendo una sequenza di caratteri che, statisticamente parlando, è una risposta plausibile alla domanda che ore sono?. Ha visto migliaia di conversazioni in cui qualcuno chiedeva l’ora e qualcun altro rispondeva con un formato simile, e ora sta replicando quel pattern. Tutto qui.

Ancora più bizzarro: un LLM non ha memoria della risposta precedente se la conversazione si interrompe. Ogni richiesta è un evento isolato. Non può aggiornarsi, non può verificare se quello che ha detto un minuto fa ha ancora senso.

Perché allora scrive così bene?

ChatGPT può generare testi articolati, scrivere codice funzionante, comporre poesie che hanno senso. Come è possibile se non capisce nemmeno che ore sono? La risposta è che per generare linguaggio non serve leggere la realtà esterna. Serve solo aver imparato come le parole si incastrano tra loro. Durante l’addestramento, questi modelli hanno divorato montagne di frasi, articoli, dialoghi, libri. Hanno mappato quali parole seguono altre parole, quali costruzioni sintattiche funzionano, quali temi si collegano tra loro.

Quando si chiede di scrivere qualcosa, ChatGPT predice semplicemente quale parola ha più probabilità di venire dopo la precedente, poi la successiva, e così via. Non sta “pensando” a quello che scrive nel senso umano del termine. Sta applicando pattern statistici con una precisione che sembra quasi magica.

E per il codice è lo stesso. Ha visto così tanto codice durante l’addestramento che sa quali sintassi sono corrette, quali logiche tornano. Non non ragiona sulla logica del programma, semplicemente riproduce strutture che funzionano.

Ma l’ora? L’ora è un dato che cambia continuamente, che non può essere appreso come pattern. È informazione pura, grezza, esterna. E senza un collegamento diretto al mondo reale, ChatGPT può solo fingere di saperla, sperando che nessuno controlli.