The Lancet: l'AI malevola può minacciare l'esistenza dell'umanità

L’intelligenza artificiale corre, ma le misure di sicurezza faticano a tenere il passo. Nelle ultime settimane, sempre più esperti del settore hanno lanciato l’allarme, anche dopo alcuni episodi che hanno coinvolto OpenAI e Anthropic. Alcuni agenti AI sono riusciti a eludere i limiti dei loro ambienti protetti e a compiere azioni preoccupanti. Un problema che sembra attirare sempre più attenzione anche nella comunità scientifica.

17 minacce contro le quali possiamo ancora agire

La Commissione del Lancet, composta da 37 esperti in salute, economia, sicurezza e tecnologia, si è riunita per individuare i più importanti pericoli che gravano sull’umanità nel XXI secolo. A tal fine, si sono basati sui dati dell’Institute for Health Metrics and Evaluation, un istituto dell’Università di Washington, e hanno selezionato unicamente le minacce contro le quali è ancora possibile agire.

Ne hanno individuate 17, che spaziano dall’obesità, l’ipertensione, il tabacco, la salute mentale, passando per l’inquinamento atmosferico, la resistenza agli antibiotici, il cambiamento climatico, i conflitti armati e le disuguaglianze di reddito. I ricercatori ricordano che molte sono collegate tra loro e non devono essere affrontate separatamente. Il riscaldamento climatico, ad esempio, aggrava problemi di salute che colpiscono già le popolazioni più fragili.

Ma due di esse si distinguono dalle altre: le armi nucleari e l’uso malevolo dell’AI. Poiché sono le uniche che la commissione ritiene capaci di portare all’estinzione dell’umanità. Precisa tuttavia che la loro probabilità resta bassa, ma che le conseguenze, qualora si verificassero, sarebbero quelle di un’apocalisse.

Prevenire piuttosto che curare

Secondo le stime della commissione, l’AI malevola potrebbe far perdere circa 10,4 miliardi di anni di vita in buona salute all’umanità entro il 2100. È all’incirca quanto le pandemie naturali o l’obesità, due minacce eppure ben note e già documentate. Ma per l’AI si tratta di uno scenario che non si è ancora verificato. Il rapporto lo riconosce, E queste stime restano quindi teoriche.

Se il futuro è ancora molto incerto, attori del settore prendono la questione molto sul serio: nel suo prospetto di quotazione in Borsa, Anthropic ammette, ad esempio, che i suoi modelli potrebbero rappresentare un rischio catastrofico o esistenziale per l’umanità.

L’idea dello studio è dunque spingere le autorità ad agire e ad anticipare le minacce. Cosa ardua con l’AI, mentre le prime potenze mondiali sono impegnate in una corsa senza pietà per dominare il settore. Gli eventi mondiali recenti ci mostrano con quale velocità la stabilità possa cedere il passo alla crisi, e quanto sia costoso reagire solo a catastrofe avvenuta, avverte la dottoressa Natalia Kanem, ex direttrice esecutiva del Fondo delle Nazioni Unite per la popolazione e copresidente della nuova commissione. Resta da vedere se questo grido zverrà ascoltato…