Sviluppo AI: firmato accordo moralmente vincolante

Insieme all’ordine esecutivo che impone l’uso del termine Super Intelligence nei documenti ufficiali, Donald Trump ha firmato un accordo “moralmente vincolante” con i CEO delle principali aziende AI che elenca quattro livelli di controllo durante lo sviluppo dei modelli. Il Presidente degli Stati Uniti ha ribadito che non servono leggi federali, ma è sufficiente una autoregolamentazione.

Le aziende AI promettono uno sviluppo sicuro

Come è noto, Dario Amodei (CEO di Anthropic), Sam Altman (CEO di OpenAI), Satya Nadella (CEO di Microsoft), Elon Musk (CEO di XAI) e vari esperti del settore hanno suggerito di rallentare lo sviluppo AI finché non verranno risolti i problemi di sicurezza e chiesto l’intervento del governo per stabilire uno standard comune. Trump ha dichiarato che non sono necessarie restrizioni imposte per legge (i rischi per l’umanità sono una bufala).

Al termine del pranzo organizzato alla Casa Bianca (Trump ha pubblicato su Truth Social la mappa dei posti al tavolo) è stato sottoscritto un documento per lo sviluppo responsabile dei modelli AI. Oltre che da Trump è stato firmato da Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (XAI) e Jensen Huang (NVIDIA). Stranamente non ci sono le firme di Satya Nadella (Microsoft) e Jeff Bezos (Amazon), entrambi presenti al pranzo. Tra gli invitati non c’era John Ternus (Apple).

Questi sono i quattro livelli di controllo che dovrebbero essere implementati:

• Robusti controlli interni per monitorare le capacità e l’allineamento dei modelli durante l’addestramento e la distribuzione in aree come cybersicurezza, biosicurezza e minacce chimiche, e garantire che i modelli con attacchino o accedano ai sistemi in modo inatteso
• Potenziare il team interno per garantire che controlli, monitoraggio e valutazione funzionino come previsto, e che ogni problema venga risolto
• Collaborare con un revisore o valutatore esterno per condurre verifiche indipendenti volte ad accertare che i sistemi di controllo e monitoraggio aziendali funzionino come previsto
• Designare un comitato indipendente per supervisionare e ricevere i report dal team che effettua i controlli in modo da verificare la risoluzione dei problemi

Trump ha comunicato che il comitato sarà composto da 10 persone. Alla fine del documento viene comunque specificato che, in futuro, questi impegni potrebbero essere codificati in leggi o regolamenti.