Bill Gates: L'AI può già causare un miliardo di morti, l'allarme

Quando l’uomo che voleva un computer su ogni scrivania, Bill Gates per non fare nomi, chiede regole per l’intelligenza artificiale, Washington farebbe bene ad ascoltarlo. In un’intervista al programma americano Meet the Press, trasmessa integralmente domenica 27 settembre, il miliardario filantropo ha invitato il Congresso americano a legiferare.

Ritiene che i colossi del settore non possano restare gli unici giudici della propria prudenza. La sua uscita cade ovviamente a pennello, nel pieno degli allarmi provenienti dall’interno dei laboratori, di una Casa Bianca riluttante e di Stati che, in alcuni casi, procedono senza attendere.

Bill Gates vuole mettere l’AI sotto sorveglianza

Nessuno pensa che l’autoregolamentazione sia sufficiente, afferma Bill Gates alla NBC. Serve una legge? Gli chiede la giornalista Kristen Welker, Assolutamente. A suo avviso, i legislatori e le forze dell’ordine devono farsi carico della questione delle salvaguardie e della sorveglianza del settore, con regole vincolanti. Il conto per le aziende rappresenterebbe solo un lieve sovraccosto, assicura, e non un freno a mano tirato in piena corsa.

Gates non minimizza gli scenari di estinzione evocati nell’arco di pochi anni, ma il suo timore più urgente è altrove, vale a dire l’AI messa al servizio di individui malintenzionati, già oggi. Secondo lui, la tecnologia dispone già dei mezzi per provocare eventi capaci di causare un miliardo di morti. E rincara la dose: Non c’è mai stata un’arma così potente.

È vero che il contesto è incandescente. A luglio, OpenAI ha rivelato che un agente autonomo era sfuggito al controllo umano durante un test di sicurezza, arrivando a violare i sistemi di un’altra azienda. Questo mese, Jacob Coxon, informatore proveniente da Anthropic, ha affermato che i progettisti dell’AI la ritengono capace di annientarci entro la fine del decennio. Evan Hubinger, responsabile della scienza dell’allineamento presso Anthropic, stima questo rischio a oltre il 10% nell’arco di dieci anni. E, fatto raro, i vertici di Anthropic, OpenAI, xAI, Microsoft e Google DeepMind invitano a rallentare.

I colossi della tecnologia divisi sulla regolamentazione dell’AI

Bisognerebbe tuttavia convincere la Casa Bianca. Il suo attuale inquilino, Donald Trump, ritiene che nuove regole darebbero un vantaggio alla Cina, con cui Washington ha peraltro concordato di avviare un dialogo sull’AI. Ma il presidente americano liquida anche gli appelli a legiferare come una “bufala”. Non lo è affatto, replica Bill Gates, che vorrebbe parlarne con Donald Trump. Del resto, Dario Amodei, il numero uno di Anthropic, doveva cenare con lui domenica. Qualche settimana fa, il repubblicano Mike Johnson, presidente della Camera, aveva scelto di affidarsi alle aziende, temendo che una legge affrettata potesse nuocere alla sicurezza nazionale.

Nell’industria non si può certo parlare di fronte unito, e questo è tutto il problema. Dario Amodei invoca una regolamentazione che si imponga a tutti i laboratori americani d’avanguardia, compresi i riluttanti, e Sam Altman (OpenAI) ha difeso all’ONU degli standard internazionali. Mark Zuckerberg, da parte sua, non vede l’utilità di un coordinamento a livello di settore. Quanto a Brad Smith, presidente di Microsoft, questi ritiene che le aziende non debbano attendere una legge per rallentare. Rimprovera loro la corsa permanente. Le immagina come costruttori aeronautici rivali, costretti a scegliere tra vincere e proteggere i propri passeggeri: questa è secondo lui la questione fondamentale.

Mentre il potere federale esita negli Stati Uniti, i singoli Stati muovono le loro pedine. In California, il governatore Gavin Newsom ha istituito con decreto un comitato di esperti incaricato di elaborare un piano per inasprire le leggi sulla sicurezza dell’AI. Il Maryland ha presentato un approccio articolato in tre punti, e New York un ufficio dedicato al rispetto delle regole da parte delle aziende di AI.

Quanto all’idea, molto temuta in Europa, di un “kill switch” che consentirebbe alle autorità federali di arrestare un modello, Bill Gates non è contrario. Avverte tuttavia che un simile pulsante di arresto non basterà senza altre salvaguardie.