AI per creare armi biologiche: il rischio c'è, i big lo sanno

Aggiungi Punto Informatico come Fonte preferita su Google

I capi delle aziende che guidano il settore dell’intelligenza artificiale non sono quasi mai d’accordo. È lecito e comprensibile, trattandosi di concorrenti che vogliono aggredire lo stesso mercato. Se però tutti mettono la loro firma su una lettera aperta rivolta ai legislatori, citando un rischio concreto e da gestire preventivamente con regole ad hoc, significa che il pericolo a cui fanno riferimento non dev’essere sottovalutato. Si parla di armi biologiche create con l’AI.

Lettera contro le armi biologiche create con l’AI

Tra i sottoscrittori di questo appello rivolto al Congresso USA ci sono Sam Altman di OpenAI, Dario Amodei di Anthropic, Demis Hassabis di Google DeepMind (quello che di recente ha previsto l’arrivo della singolarità), Alexandr Wang di Meta, Paul Graham di Y Combinator e altri, inclusi molti ricercatori.

Il titolo della lettera è A supporto dello screening obbligatorio della sintesi degli acidi nucleici e della conservazione dei registri. Fa riferimento al concetto di biosecurity in relazione alla possibilità di produrre DNA e RNA sintetico (genomica di sintesi). In particolare, considerando le potenzialità dei sistemi AI in continua evoluzione, creare virus o armi biologiche potrebbe diventare alla portata di qualunque malintenzionato o criminale.

I sistemi di intelligenza artificiale stanno migliorando rapidamente e, oltre agli incredibili benefici per la scienza e la medicina, esiste una reale possibilità che le barriere della conoscenza che storicamente hanno impedito ad attori malintenzionati di ottenere armi biologiche si riducano significativamente.

In termini di screening, la lettera chiede di introdurre regole per imporre alle aziende del settore di verificare che le loro tecnologie non siano mai impiegate per creare sequenze di DNA pericolose e di verificare la legittimità dei clienti. Al momento tale verifica avviene su base volontaria, non è un obbligo di legge. Poi, è invocata la creazione di un registro che tenga traccia delle attività sospette, la cui consultazione potrà essere resa disponibile alle autorità in caso di bisogno.

È particolarmente significativa la conclusione, in cui si conferma la straordinarietà della dichiarazione d’intenti comune.