Ex ricercatore di Google crede l'AI ucciderà tutti

Dopo quello di un ex dipendente di Anthropic arrivano altri avvertimenti da due ex ricercatori di Google DeepMind. Bilal Chughtai ha deciso di lasciare l’azienda di Mountain View perché preoccupato dei rischi associati allo sviluppo dell’AI. Anche l’ex collega Josh Engels ha comunicato di aver lasciato il lavoro, evidenziando che i sistemi AI potrebbero causare enormi danni nei prossimi anni.

L’AI ha il potenziale di ucciderci tutti

Nelle ultime settimane sono nati due schieramenti opposti. Da una parte ci sono Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (SpaceX), Satya Nadella (Microsoft), Demis Hassabis (Google DeepMind) e diversi ricercatori che ritengono urgente rallentare lo sviluppo dei modelli AI, eventualmente con l’intervento dei governi. Dall’altra ci sono Mark Zuckerberg (Meta), Jensen Huang (CEO di NVIDIA) e Donald Trump che invece sminuiscono i pericoli.

Alla prima fazione si iscrivono anche due ricercatori che lavoravano per il team di Google DeepMind dedicato alla sicurezza. Bilal Chughtai ha ricordato che, nel 2022, le AI erano praticamente inutili. Dopo quattro anni, sciami di agenti basati sui modelli di OpenAI risolvono problemi matematici e, allo stesso tempo, sfuggono al controllo e attaccano i sistemi di Hugging Face.

Il ricercatore è quasi certo che verrà creata una superintelligenza con capacità superiori a quelle umane, ma al momento non è stato ancora risolto il problema dell’allineamento. Come dimostra l’incidente di Hugging Face, gli agenti AI possono eseguire azioni diverse da quelle autorizzate. Chughtai crede quindi che l’AI abbia il potenziale di ucciderci tutti. È pertanto necessario rallentare lo sviluppo, in modo da comprendere e risolvere i problemi di sicurezza.

L’ex collega Josh Engels ha espresso le stesse preoccupazioni. Oltre al problema dell’allineamento ha evidenziato la capacità dell’AI di creare una versione più potente di se stessa tramite il cosiddetto auto-miglioramento ricorsivo. Anche Engels suggerisce di rallentare lo sviluppo, in quanto esiste l’elevata probabilità che i sistemi AI causino danni immensi nei prossimi cinque anni.