Sam Altman aveva anticipato la novità commentando la proposta di Dario Amodei (CEO di Anthropic). OpenAI ha ora comunicato che permetterà a terze parti di valutare i suoi modelli durante l’intero ciclo di sviluppo e dopo il rilascio pubblico. Durante un intervento al Consiglio di sicurezza delle Nazioni Unite, il CEO ha suggerito di creare uno standard per la sicurezza con la collaborazione tra industria e governi.
Valutazione di terze parti
OpenAI aveva descritto uno standard internazionale relativo alla sicurezza dei modelli AI. Con un nuovo post sul sito ufficiale ha comunicato che permetterà a organizzazioni private e non-profit di effettuare valutazioni indipendenti durante le fasi di addestramento, valutazione e distribuzione. Tale accesso consentirà di individuare eventuali rischi trascurati e verificare l’efficacia delle misure di sicurezza.
Ci saranno valutazioni multiple in parallelo che potrebbero durare anche settimane o mesi. Verranno suddivise in quattro categorie principali: valutazione dei casi di sicurezza durante addestramento, implementazione interna e implementazione esterna; valutazione delle misure di salvaguardia critiche durante implementazione interne ed esterne; valutazione delle capacità relative alle categorie di rischio (chimico, biologico, sicurezza informatica, auto-miglioramento); indagine su incidenti critici di disallineamento.
OpenAI ha elencato anche un serie di principi per una valutazione efficace: richieste di valutazione chiaramente definite e concordate, accesso proporzionato nel rispetto dei vincoli legali, di sicurezza e relativi alla proprietà intellettuale, uso di standard e metodologie trasparenti, competenza e indipendenza dei valutatori, pratiche di pubblicazione responsabili proteggendo informazioni sensibili e confidenziali.
Durante il suo intervento al Consiglio di sicurezza delle Nazioni Unite, il CEO Sam Altman ha suggerito di creare uno standard per lo sviluppo sicuro dei modelli AI attraverso una collaborazione tra industria e governi. Anche Dario Amodei (CEO di Anthropic) ha espresso lo stesso parere durante un intervento video.
Ti potrebbe interessare
24 set 2026