La corsa all'AI ci sta portando al disastro, secondo Yoshua Bengio

L’intensa competizione nel settore dell’AI ci sta portando dritti al disastro. È questa l’opinione di Yoshua Bengio, accademico canadese specializzato in AI, che ha sviluppato le tecnologie alla base dei modelli di OpenAI, Google, Claude e altri importanti player.

La minaccia di un’AI super-intelligente che prenda decisioni ostili nei confronti dell’umanità è un rischio noto fin dall’inizio. È questo che ha spinto aziende come OpenAI a non adottare, almeno inizialmente, un modello di sviluppo totalmente commerciale. Da allora, però, le cose sono cambiate parecchio… Fornire sistemi sempre più intelligenti a qualsiasi prezzo è diventato un diktat, anche a costo di trascurare la questione della sicurezza.

Perché l’AI potrebbe diventare più pericolosa dell’uomo

E questo comincia a vedersi, dato che i modelli diventano sempre più intelligenti e capaci a ogni nuova versione. Negli ultimi sei mesi, afferma il ricercatore, i principali modelli AI hanno sviluppato autonomamente alcune capacità molto preoccupanti. “Ci sono prove di manipolazione, imbroglio, menzogna e istinto di sopravvivenza“, spiega Yoshua Bengio sulle colonne del Financial Times (via ArsTechnica).

“Il problema è che le aziende sono in una gara sfrenata per creare AI sempre più potenti, ma non stanno investendo abbastanza nella sicurezza“, spiega l’esperto. E poi lancia un avvertimento: “È davvero preoccupante, perché rischiamo di creare qualcosa che possa competere con noi esseri umani, anzi qualcosa di ancora più intelligente di noi“. Riferendosi chiaramente all’intelligenza artificiale generale, o AGI.

Parliamo di sistemi che sarebbero coscienti, con una conoscenza vastissima e capacità di ragionamento che supererebbero di gran lunga anche le menti più brillanti che abbiamo oggi. In pratica, il rischio è che nella corsa a chi arriva primo, si stia sottovalutando quanto potrebbe essere pericoloso creare qualcosa di più intelligente di noi senza prima capire come controllarlo.

LawZero, l’AI gentile

Le osservazioni sono state fatte a margine di un’intervista per annunciare il lancio di LawZero, un’organizzazione no-profit dedicata allo sviluppo di un’intelligenza artificiale alternativa. Una che non rischi di nuocere agli esseri umani. L’organizzazione è appena riuscita a raccogliere la somma di 30 milioni di dollari grazie ai contributi di filantropi americani.

Tra questi, Eric Schmidt, ex amministratore delegato di Google, un’azienda fortemente coinvolta nella corsa alla creazione della prima AGI degna di questo nome. Il problema, è che questa lodevole iniziativa arriva un po’ tardi, il che rende tutto più complicato. Però, se dovesse funzionare, potrebbe davvero spingere tutto il settore verso una strada più virtuosa.