David Robinson scriveva i report sulla sicurezza che accompagnavano ogni grande modello di OpenAI, quei documenti che fanno da foglietto illustrativo a una medicina: controindicazioni, rischi, effetti collaterali. Questa settimana ha lasciato il posto e ha affidato le sue ragioni a un editoriale su The Atlantic.
Perché i ricercatori di sicurezza abbandonano OpenAI, Anthropic e DeepMind?
Il verdetto è secco: la cultura del settore è profondamente sbagliata. Secondo lui non basta un’aggiunta di regole qui e un ritocco ai metodi di addestramento là. Sarebbe come rattoppare con lo scotch una diga che perde da tutte le parti.
A Robinson, la Silicon Valley, ricorda una compagnia di giovanotti con troppa sicurezza in corpo. Parla di fiducia estrema e di ottimismo senza freni che minimizza i problemi, quando non li ignora proprio. Si costruiscono modelli sempre più grandi e sempre più bravi, e intanto nessuno si chiede: e se qualcosa andasse storto?
Secondo lui, il settore avrebbe bisogno soprattutto di più umiltà e di meno fretta. La logica del lanciare qualcosa rapidamente e sistemare i problemi in seguito può avere senso per un’app di appuntamenti, ma diventa molto più rischioso quando la tecnologia in questione può avere conseguenze ben più grandi.
Robinson vorrebbe per l’AI le stesse salvaguardie di una centrale nucleare. Come ha dichiarato: Visti i rischi di oggi, i laboratori dovrebbero funzionare come centrali nucleari o aeroporti trafficati, con livelli di ridondanza e una pianificazione attenta e laboriosa, così che l’errore umano, occasionale e inevitabile, non spalanchi la porta al disastro.
Niente eroi solitari, quindi, e niente colpi di genio alle tre di notte. Servono controlli sopra i controlli e procedure lente, noiose e ripetute, di quelle che fanno sbuffare chi ha fretta di lanciare il prossimo modello. In una centrale nucleare nessuno si vanta di aver consegnato prima del previsto.
E proprio adesso te ne accorgi?
Lo scetticismo è comprensibile. Quando a lanciare l’allarme sono, uno dopo l’altro, gli stessi che hanno contribuito a costruire ciò che oggi criticano, qualche domanda sorge spontanea. In fondo il pasticcio l’hanno fatto anche loro. Ma questo non significa che abbiano torto. Chi ha lavorato dall’interno conosce meglio di chiunque altro i punti deboli del sistema e sa esattamente dove iniziano a comparire le crepe.
La fila davanti all’uscita
Robinson non è il solo. Da un po’ si sta formando una processione di ricercatori e addetti alla sicurezza che salutano i grandi laboratori. A dare il via, pare, è stato Jacob Coxon, che ha lasciato Anthropic e poi ha dichiarato pubblicamente che l’AI potrebbe ucciderci tutti entro la fine del decennio.
Dopo di lui sono arrivati Robert O’Callahan, Bilal Chughtai e Josh Engels, tutti da Google DeepMind, e Joe Benton, sempre da Anthropic. Con Robinson la fila si allunga, e chi la guarda da fuori comincia a chiedersi cosa stia succedendo, là dentro, di così poco rassicurante.
Ti potrebbe interessare
5 ott 2026