Il padrino dell'AI ha paura della sua creatura: dovremmo tutti?

Prima che Sam Altman diventasse il volto pubblico dell’intelligenza artificiale e Jensen Huang vendesse GPU come fossero lingotti d’oro, c’era Geoffrey Hinton, scienziato informatico e psicologo cognitivo.

Hinton è l’uomo che negli anni ’80 ha contribuito a sviluppare la famosa backpropagation, quella tecnica che ha permesso alle reti neurali di imparare dai propri errori. Senza di lui, ChatGPT sarebbe fantascienza, i deepfake non esisterebbero e probabilmente staremmo ancora dibattendo se i computer potranno mai battere l’uomo a scacchi (sì, possono, e anche a Go, poker, Dota 2 e praticamente qualsiasi altra cosa).

L’uomo che ha inventato l’AI ora implora di fermarla: ecco perché

Insieme a Terrence Sejnowski, Hinton ha anche co-inventato le macchine di Boltzmann nel 1985, un modello di rete neurale stocastica che è uno degli elementi costitutivi del deep learning moderno. Senza questi mattoncini teorici, l’AI che oggi genera immagini, scrive codice e risponde alle domande esistenziali non esisterebbe. Insomma, Hinton non è un opinionista qualunque…

A maggio 2023, Hinton si è dimesso da Google. Non per andare in pensione alle Bahamas o fondare l’ennesima startup miliardaria. Ma per poter parlare liberamente dei pericoli dell’AI senza che le sue parole venissero filtrate, annacquate o interpretate come attacco alla casa madre.

Mi rattrista molto aver dedicato la mia vita a sviluppare queste tecnologie e scoprire che ora sono estremamente pericolose, ha dichiarato a BBC Newsnight. La gente non sta prendendo i rischi abbastanza seriamente.

Il problema, secondo Hinton, è che ci siamo mossi troppo in fretta. Fino a pochi anni fa, anche lui pensava che l’AI capace di superare l’intelligenza umana fosse un traguardo lontanissimo: 30, 50 anni, forse anche di più. Roba da lasciare alle generazioni future, insieme al problema del cambiamento climatico e alla colonizzazione di Marte. E invece? Ovviamente, non lo penso più.

L’avvertimento che nessuno vuole ascoltare

Nel 2024, Hinton ha ricevuto il Premio Nobel per la Fisica “per le scoperte e le invenzioni fondamentali che consentono l’apprendimento automatico con reti neurali artificiali“. Un riconoscimento meritatissimo, la consacrazione definitiva di una carriera straordinaria. Ma Hinton non ha usato il palcoscenico per celebrare i propri successi.

Durante l’intervista con l’organizzazione del Nobel, Hinton ha chiesto ai governi di costringere le grandi aziende tech a investire massicciamente nella ricerca sulla sicurezza dell’AI. Non come optional, ma come priorità assoluta e non negoziabile.

Perché il punto è questo, le big tech stanno correndo a velocità folle per costruire AI sempre più potenti, e la ricerca su come controllarle, renderle sicure, evitare che facciano danni irreparabili è drammaticamente indietro.

Hinton Si preoccupa anche di scenari più prosaici, come il collasso del mercato del lavoro. Durante un’intervista al podcast The Diary of a CEO con Steven Bartlett, Hinton ha messo il dito nella piaga: Se si ottiene un grande aumento della produttività, tutti dovrebbero stare meglio. Ma se si possono sostituire molte persone con l’AI, allora le persone sostituite staranno peggio, e l’azienda che fornisce l’AI starà molto, molto meglio dell’azienda che la usa.”

La promessa utopica dell’AI, più produttività, più benessere per tutti, si scontra con la realtà capitalistica: più produttività, più profitti per pochi, più precarietà per molti. E Hinton, da scienziato onesto, non fa finta di niente.

Hinton sa cosa ha costruito. Sa che ha cambiato il mondo. E sa anche che non ha idea di dove tutto questo ci porterà. La differenza tra lui e i vari evangelisti dell’AI che promettono utopie tecnologiche è che Hinton ha l’onestà intellettuale di ammettere l’incertezza. E la paura. E forse sarebbe il caso di ascoltarlo.