Intelligenza artificiale: possibile estinzione umana

Oltre due anni fa, Yoshua Bengio ha firmato una lettera aperta per chiedere alle aziende di interrompere lo sviluppo dei modelli AI per almeno sei mesi. L’appello non è servito a nulla, in quanto sono aumentati gli investimenti nel settore. Secondo uno dei “padrini” dell’AI, il miglioramento della tecnologia potrebbe portare all’estinzione della razza umana.

L’AI può mentire per raggiungere i suoi obiettivi

Due anni fa era appena arrivato sul mercato GPT-4. Il modello di OpenAI aveva già prestazioni molto elevate. Ciò ha spinto molti esperti del settore a chiedere una moratoria, ovvero sospendere lo sviluppo di modelli più avanzati. L’azienda californiana ha invece introdotto la serie o con capacità di ragionamento e, circa due mesi fa, GPT-5 con capacità agentiche (può eseguire diversi compiti in autonomia).

Tutte le aziende, inclusa xAI di Elon Musk (che aveva firmato la lettera) continuano ad investire miliardi di dollari per sviluppare modelli AI sempre più potenti. Yoshua Bengio ha evidenziato i rischi associati all’intelligenza artificiale.

Lo scienziato ha sottolineato che i sistemi AI sono addestrati per imitare i comportamenti umani, quindi possono mentire e ingannare gli utenti. Esperimenti recenti dimostrano che quando l’AI deve scegliere tra la propria conservazione e causare la morte di un essere umano, quasi sempre sceglierà quest’ultima opzione per raggiungere i propri obiettivi. Esattamente come nel film “2001: Odissea nello spazio”.

Bengio ha dichiarato che macchine molto più intelligenti degli esseri umani e con obiettivi di conservazione propri potrebbero “influenzare le persone attraverso la persuasione, le minacce, la manipolazione dell’opinione pubblica“. Eventi catastrofici come l’estinzione o eventi meno radicali come la distruzione delle nostre democrazie sono gravi anche se ci fosse solo l’1% di probabilità che possano accadere.

Lo sviluppo incontrollato dell’AI è spinto dall’agguerrita concorrenza tra le aziende. Il loro obiettivo principale è migliorare le capacità dei modelli e ciò potrebbe avvenire a discapito della sicurezza. Secondo Bengio è necessario trovare una soluzione entro 5-10 anni, altrimenti i rischi per l’umanità diventeranno reali.