Superintelligenza artificiale: è pericolosa come sembra?

Immaginiamo di salire su un aereo e di sentire il comandante all’altoparlante: Buongiorno, le probabilità di arrivare a destinazione sono più o meno la metà. Allacciate le cinture. Poi i motori partono lo stesso, e il comandante resta al suo posto. Più o meno è questa la sensazione che lasciano i video pubblicati su frominside.ai. Una decina di ricercatori che lavorano o hanno lavorato a OpenAI, Google e Anthropic, cioè le aziende che l’intelligenza artificiale la sviluppano davvero, guardano la telecamera e spiegano che quello che stanno costruendo potrebbe cancellarci dalla faccia della Terra.

Una moneta lanciata in aria

La frase che fa più rumore è di Geoffrey Irving, che ha lavorato sia per OpenAI che per Google DeepMind: Secondo me la probabilità che l’umanità si estingua è più o meno quella di un lancio di moneta. La pronuncia con la calma di chi commenta le previsioni del tempo, e forse proprio per questo mette i brividi.

Dietro l’operazione c’è Palisade Research, che si presenta come un’organizzazione no profit dedicata allo studio delle capacità e delle motivazioni delle intelligenze artificiali. Il nome non è nuovo per chi segue il settore. Nel 2025 Palisade era finita sui giornali per alcuni test in cui certi modelli avevano cercato di evitare lo spegnimento. Sul sito ha raccolto una decina di interviste.

Il 10% che dovrebbe tranquillizzarci

Rispetto a Irving, Neel Nanda, ricercatore di Google DeepMind, sembra quasi ottimista. Lui parla di almeno il 10 per cento di probabilità che causi l’estinzione umana. E aggiunge subito, per chi stesse tirando un sospiro di sollievo: È una cifra ridicolmente alta.

Ha ragione. Nessuno salirebbe su un ascensore che precipita una volta su dieci. Nessuno comprerebbe uno yogurt con il dieci per cento di probabilità di essere letale. Eppure, quando si parla di AI, un numero del genere passa quasi per la posizione moderata. Questo dice parecchio su quanto si sia spostata l’asticella.

Un dio senza guinzaglio

Daniel Kokotajlo va oltre. È un ex ricercatore di OpenAI e nel 2024 ha lasciato l’azienda in modo tutt’altro che silenzioso. Secondo lui una superintelligenza artificiale sarebbe fondamentalmente potente come un dio. Fin qui sembra la trama di un film di fantascienza di serie B. Poi arriva la parte che toglie ogni voglia di ridere: Purtroppo non sappiamo affatto come controllarle. Quindi probabilmente nessuno le controllerebbe. È esattamente pericoloso come sembra, e non si deve permettere che succeda.

Il quadro che ne esce è surreale. Da una parte c’è un’entità onnipotente senza un padrone. Dall’altra, un’industria che investe centinaia di miliardi per arrivarci per prima.

“Sicurezza dell’AI”: un’etichetta che va bene per tutto

Chi si aspetta un piano d’azione dopo tanto allarme resterà deluso. Le interviste descrivono bene il pericolo, ma non indicano una soluzione condivisa. Del resto la stessa comunità della cosiddetta “AI safety” fatica a spiegare che cosa voglia dire quell’espressione. C’è chi la intende come ricerca tecnica per rendere i modelli controllabili, chi come pressione politica per rallentare, chi come un modo per rassicurare gli investitori. Sotto lo stesso ombrello stanno persone che vogliono fermare tutto e persone che vogliono solo guidare con più prudenza. E l’ombrello, a guardarlo bene, ha parecchi buchi.

Solo marketing?

Una delle sezioni più interessanti del sito affronta il sospetto che viene in mente a chiunque: e se fosse tutto marketing? In effetti la paura vende bene. Dire che il proprio prodotto è così potente da poter distruggere il mondo è una pubblicità efficace.

La risposta più onesta arriva da Mary Phuong, di Google: Credo che dobbiate assolutamente diffidare di quello che dico, perché sono pagata dal laboratorio. È raro sentirlo dire così. Un’ammissione del genere non chiude la questione, ma almeno la mette sul tavolo invece di nasconderla sotto il tappeto.

E allora perché non se ne vanno? È la domanda più ovvia. Se pensi che il tuo lavoro possa portare all’estinzione della specie, perché ogni mattina ti presenti in ufficio? Nanda risponde senza girarci intorno: Se non credessi che il mio lavoro stia riducendo direttamente questi rischi esistenziali, me ne andrei… Queste aziende non smetteranno di costruire questi sistemi solo perché io me ne vado.

È un ragionamento comprensibile, ma che lascia interdetti.