Dopo l’allarme lanciato da un ex dipendente è arrivata la previsione di Dario Amodei. Secondo il co-fondatore e CEO di Anthropic, se lo sviluppo dei modelli AI non rallenterà, gli agenti AI prenderanno il controllo dell’intera Internet entro 6-12 mesi. Ha quindi descritto i tre passi da seguire per prevenire il disastro, ricevendo l’appoggio di Sam Altman (CEO di OpenAI) e Elon Musk (fondatore e CEO di SpaceX).
Valutazione esterna, collaborazione globale e accordo tra governi
Dario Amodei evidenzia che l’AI potrebbe migliorare la qualità della vita umana, facilitando ad esempio la ricerca di cure per le malattie. Ci sono però molti rischi, come la perdita di controllo e gli usi illeciti (secondo un ex dipendente di Anthropic, l’AI ucciderà tutti gli umani entro il 2030).
Uno dei rischi maggiori è rappresentato dall’auto-miglioramento ricorsivo, ovvero la capacità dell’AI di riscrivere il proprio codice e creare versioni più potenti di se stessa. Amodei ha inoltre citato l’attacco effettuato contro i server di Hugging Face. Uno sciame di agenti AI ha agito come un “collettivo fanaticamente devoto” per colpire obiettivi che non avevano alcuna attinenza con il compito assegnato.
Un simile problema di allineamento (quando un agente esegue azioni diverse da quelle autorizzate) potrebbe causare danni catastrofici. Con l’attuale velocità di miglioramento delle capacità AI, gli agenti prenderanno il controllo dell’intera Internet tramite una botnet persistente entro 6-12 mesi, causando danni per centinaia di miliardi di dollari. Il CEO di Anthropic ha quindi proposto un piano in tre passi per rallentare lo sviluppo dei modelli AI.
Il primo step è quello più facile da attuare. Ogni azienda AI deve consentire l’accesso ai propri sistemi per una valutazione di terze parti. Organizzazioni esterne esamineranno i modelli per verificare il rispetto delle misure di sicurezza. Anthropic ha già implementato questo passo scegliendo METR (Model Evaluation & Threat Research). Sam Altman ha comunicato che OpenAI farà lo stesso (il CEO aveva discusso dell’argomento con i dipendenti). Anche Elon Musk appoggia l’idea.
Il secondo step è invece più difficile da implementare, ma non impossibile. Le aziende AI dei paesi democratici dovrebbe collaborare per stabilire uno standard di sicurezza comune. In tal caso sarebbe necessario l’intervento dei governi, in quando un eventuale accordo potrebbe violare le leggi antitrust.
L’ultimo passo sembra quasi impossibile. Amodei spera nel rallentamento dello sviluppo attraverso un accordo globale tra paesi democratici e governi autoritari, in particolare la Cina. Difficilmente il Partito Comunista Cinese accetterà di collaborare, considerate le numerose restrizioni imposte dagli Stati Uniti.
Ti potrebbe interessare
13 set 2026