Anthropic propone una legge sulla sicurezza dell'AI

Donald Trump ha ribadito più volte che non ci sarà nessun intervento legislativo. Anthropic ha invece presentato la bozza di una proposta di legge sulla sicurezza dell’intelligenza artificiale. Il contenuto è basato sull’Advanced AI Framework pubblicato a metà giugno 2026. Prevede ovviamente la valutazione indipendente da parte di organizzazioni esterne (l’azienda californiana ha scelto METR).

Il governo può bloccare il rilascio dei modelli AI

Rappresentati di Anthropic hanno presentato ad alcuni legislatori di Capitol Hill una proposta di legge per regolamentare lo sviluppo dell’intelligenza artificiale. Un portavoce dell’azienda californiana ha confermato che il testo è basato sull’Advanced AI Framework, sottolineando che si tratta di policy ragionevoli che il Congresso dovrebbe adottare. Anthropic ritiene che i governi dovrebbero introdurre leggi con specifici obblighi per gli sviluppatori e sanzioni in caso di violazioni, incluso il blocco della distribuzione o il ritiro dei modelli già sul mercato.

La proposta limita tuttavia l’intervento del governo. Il blocco del rilascio o dell’uso di un modello verrebbe imposto solo se comporta un rischio prevedibile e imminente di danni superiori ad un miliardo di dollari oppure di morte o lesioni gravi per oltre 50 persone. Tale rischio deve derivare dalla creazione o dal rilascio di un’arma biologica, dall’elusione dei controlli da parte del modello stesso o da un attacco informatico.

Negli ultimi mesi sono stati svelati diversi incidenti causati da agenti AI fuori controllo (anche di Anthropic), ma nessuno di essi ha causato morti o danni superiori ad un miliardo di dollari. In pratica, l’eventuale legge non servirebbe quasi a nulla.

I valutatori indipendenti, registrati presso il Dipartimento del Commercio, avranno il compito di esaminare periodicamente i modelli AI. Potranno essere retribuiti per il loro lavoro dall’azienda stessa, a condizione che il pagamento non sia subordinato ai risultati delle valutazioni.

Se viene rilevato un rischio imminente, i valutatori devono segnalarlo al Dipartimento del Commercio entro 72 ore dal completamento della valutazione. Il Dipartimento del Commercio può quindi rivolgersi ad un giudice per chiedere di bloccare il rilascio di un modello, dopo aver stabilito che esso comporta dei rischi.

La proposta di Anthropic richiederebbe inoltre alle aziende AI di creare quadri di riferimento per la sicurezza, pubblicare rapporti di trasparenza sui nuovi modelli avanzati, implementare tutele per chi segnala irregolarità (whistleblower) e comunicare al Dipartimento del Commercio eventuali incidenti critici legati alla sicurezza.