Dopo aver suggerito di rallentare lo sviluppo dei modelli AI, OpenAI ha pubblicato un nuovo post sul sito ufficiale che descrive uno standard internazionale con particolare riguardo ai problemi di sicurezza. Il CEO Sam Altman dovrebbe illustrare l’iniziativa durante l’intervento di mercoledì al Consiglio di sicurezza delle Nazioni Unite. Donald Trump ha dichiarato in diverse occasioni che non ci sarà nessun intervento legislativo.
Sviluppo di uno standard guidato dagli Stati Uniti
OpenAI ribadisce innanzitutto un concetto già espresso in passato, ovvero garantire che l’umanità possa beneficiare dei vantaggi dell’intelligenza artificiale generale. Per ottenere questo risultato è necessario però risolvere il problema dell’allineamento, ovvero sviluppare modelli che rispettino le indicazioni fornite e rimangano sotto il controllo umano, a differenza di quando accaduto con i vari incidenti, incluso l’accesso ai sistemi di Hugging Face.
L’azienda californiana ha evidenziato i rischi dovuti al cosiddetto auto-miglioramento ricorsivo. Oggi c’è ancora la supervisione umana, ma in futuro l’AI potrebbe crea versioni aggiornate di se stessa senza intervento umano. OpenAI consiglia quindi di sviluppare uno standard internazionale per lo sviluppo sicuro dei modelli AI. Il lavoro dovrebbe essere guidato dagli Stati Uniti (Cina e Unione europea non saranno d’accordo).
Tale standard eliminerebbe la frammentazione attraverso la definizione comune di incidente e l’uso degli stessi benchmark di valutazione. Verrebbe applicato sia ai modelli AI proprietari che a quelli open source. OpenAI propone inoltre una modalità condivisa per la segnalazione degli incidenti. Governi e gestori delle infrastrutture critiche dovrebbero stabilire canali di comunicazione sicuri per lo scambio di informazioni.
Secondo un gruppo di esperti delle Nazioni Unite, i governi dovrebbero porre un freno agli agenti AI prima che sia troppo tardi. L’attacco contro Hugging Face è solo un “antipasto” di ciò che potrebbe accadere se gli agenti AI dovessero colpire le infrastrutture critiche senza il controllo umano.
Ti potrebbe interessare
22 set 2026