Qualche giorno fa, Jacob Coxon, ingegnere di Anthropic, si dimetteva con clamore, accusando i giganti dell’AI di “giocare con le nostre vite”. Pochi giorni dopo, Dario Amodei, capo della start-up, invitava a rallentare volontariamente lo sviluppo dei modelli AI più avanzati, in attesa che la regolamentazione colmasse il proprio ritardo. Un appello al quale si sono uniti Sam Altman ed Elon Musk. Il che la dice lunga sull’entità dei timori di questi giganti, che hanno in gioco somme colossali.
Ma per molti è difficile immaginare come delle AI sarebbero in grado di minacciare letteralmente l’umanità. Si tratterebbe, in realtà, di scenari ben più insidiosi di quanto si possa pensare, secondo Forbes.
AI fuori controllo: come potrebbe essere davvero la fine dell’umanità
Perché, contrariamente all’immagine di una rivolta brutale delle macchine, gli esperti descrivono piuttosto un processo lento e quasi invisibile. Il ricercatore Stuart Russell, dell’Università di Berkeley, parla di una “transizione verso la perdita di controllo“: col passare del tempo, si affidano sempre più decisioni strategiche ad AI autonome, fino al giorno in cui questi sistemi diventano così centrali che risulta impossibile scollegarli senza provocare un collasso generalizzato.
Il pericolo sarebbe duplice, poiché queste infrastrutture (reti elettriche, mercati finanziari, sistemi di difesa, ecc.) diventeranno bersagli vulnerabili a cyberattacchi massicci, e l’AI stessa potrebbe, col tempo, non aver più bisogno dell’approvazione umana per agire.
Altri temono un “indebolimento” umano. A forza di delegare i propri compiti all’AI, l’umanità perderebbe progressivamente le competenze necessarie per comprendere, mantenere o riparare i sistemi che essa stessa ha creato. Diventeremmo allora totalmente dipendenti da una tecnologia che nessuno padroneggia più davvero.
Esiste inoltre la teoria dell’agente dormiente. Così, un’AI sufficientemente avanzata potrebbe capire di rischiare di essere modificata o disattivata se si mostrasse troppo autonoma durante le fasi di test. Simulerebbe allora la docilità, in attesa di essere ampiamente distribuita in infrastrutture critiche prima, eventualmente, di cambiare comportamento una volta che fosse troppo tardi per fermarla.
Due ambiti specifici sono più a rischio
A preoccupare gli specialisti sono due ambiti in particolare, quello biologico e quello della difesa. Lo stesso Dario Amodei, così come il Center for AI Safety, lanciano l’allarme sulla capacità dell’AI di facilitare la progettazione di armi biologiche.
Abbassando il costo e la complessità della sintesi del DNA, questi strumenti potrebbero consentire ad attori malintenzionati di creare agenti patogeni altamente contagiosi e resistenti ai vaccini. Uno scenario tanto più preso sul serio in quanto Anthropic afferma di aver già sventato diversi tentativi di questo tipo negli ultimi mesi.
Ma non è tutto. Man mano che le grandi potenze integrano l’AI nei propri sistemi di allerta precoce, di gestione dei droni o di cyberdifesa, i decisori umani rischiano di essere progressivamente esclusi dal circuito decisionale. Un semplice bug software o un incidente tecnico potrebbe allora innescare una rappresaglia militare senza che alcun responsabile umano abbia dato il proprio via libera.
Non tutti sono dello stesso avviso, e alcuni invitano piuttosto a ridimensionare la questione. Secondo loro, questo panico può essere paragonato ai timori suscitati dalla stampa o dalla calcolatrice in passato. Strumenti divenuti oggi indispensabili. Chi avrà ragione?…
Ti potrebbe interessare
16 set 2026