Aziende AI vogliono regolamentare lo sviluppo dei modelli

Oltre 1.200 dipendenti di aziende AI, tra cui Anthropic, OpenAI, Google, Meta e Microsoft, hanno avviato l’iniziativa Pacing the Frontier per chiedere al governo statunitense di supportare una regolamentazione internazionale sullo sviluppo dei modelli di intelligenza artificiale. La petizione, firmata anche dal CEO Dario Amodei e alcuni co-fondatori di Anthropic, evidenzia i rischi associati allo sviluppo troppo rapido e alla possibile perdita di controllo, come accaduto con gli agenti di OpenAI.

Serve una regolamentazione internazionale

Negli ultimi mesi sono stati annunciati numerosi modelli AI con capacità avanzate, principalmente nel campo della sicurezza informatica. Le principali aziende AI statunitensi devono “giustificare” gli investimenti miliardari, quindi hanno velocizzato il rilascio di nuovi modelli. La petizione è quasi certamente correlata agli eventi recenti, tra cui l’attacco effettuato da un agente di OpenAI contro l’infrastruttura di Hugging Face.

L’amministrazione Trump ha introdotto un controllo preventivo facoltativo. Ora le aziende chiedono un intervento diretto per regolamentare lo sviluppo dei modelli, come ha suggerito il CEO di Anthropic. Nella petizione è scritto:

L’intelligenza artificiale potrebbe contribuire a creare un futuro decisamente migliore, ma questo risultato non è garantito. Le aziende leader a livello mondiale nel campo dell’AI ritengono di essere vicine all’automazione della ricerca in questo settore. È difficile prevedere con precisione quanto ciò accelererà il progresso dell’AI, ma esiste il rischio concreto che lo sviluppo delle capacità acceleri rapidamente, superando la nostra capacità di comprendere o controllare i sistemi risultanti.

In pratica, le aziende ammettono che non sono in grado di prevedere e controllare le azioni dei modelli. Ammettono inoltre che la competizione ha portato all’accelerazione dello sviluppo:

Per valutare il potenziale dell’AI, industria, governi e società nel suo complesso potrebbero aver bisogno della possibilità di guadagnare tempo per affrontare i rischi emergenti, sviluppare misure di sicurezza e rafforzare la supervisione. Ma ogni azienda – e ogni Paese – è sottoposto ad un’intensa pressione competitiva per non rallentare unilateralmente tale accelerazione. E oggi il mondo non dispone degli strumenti tecnici e di governance necessari per controllare deliberatamente i progressi su scala globale in settori all’avanguardia.

Le aziende chiedono quindi al governo statunitense di sostenere un’iniziativa internazionale volta a sviluppare gli strumenti tecnici e di governance necessari per gestire con attenzione i progressi nello sviluppo dell’intelligenza artificiale automatizzata.