OpenAI consiglia di rallentare lo sviluppo dei modelli AI

OpenAI ha introdotto diversi miglioramenti per evitare incidenti simili a quello di Hugging Face, sospeso l’addestramento dei modelli AI per due settimane e rilasciato GPT-6 Astra con maggiori protezioni cyber. Jakub Pachocki, Chief Scientist di OpenAI, ha evidenziato però che il problema dell’allineamento non è stato ancora risolto, quindi suggerisce di trovare un accordo comune per rallentare lo sviluppo.

Nessuno è preparato per le conseguenze

Pachocki sottolinea che le capacità dei modelli AI sono aumentate notevolmente negli ultimi tre anni. Oggi possono controllare computer e interfacce grafiche, gestire progetti complessi e interagire tra loro (come dimostrano i recenti avvenimenti). Sono evidenti anche i progressi (e i pericoli) nel campo della cybersicurezza,

Il dirigente di OpenAI suggerisce quindi di avere una maggiore cautela durante lo sviluppo dei futuri modelli AI, in quanto aumenteranno i rischi:

Temo che nessuno sia preparato alle conseguenze di una continua e rapida crescita dell’intelligenza artificiale. OpenAI continuerà a cercare soluzioni tecniche per l’allineamento e il monitoraggio, a costruire sistemi di difesa e a sospendere unilateralmente un’ulteriore espansione, se necessario; tuttavia, credo che siano necessari interventi più ampi.

I modelli AI diventeranno sempre più rilevanti nel mondo reale anche senza superare tutte le capacità umane. Ad un certo punto, gli umani non riusciranno più a comprendere cosa un modello è in grado di fare.

Il problema principale è rappresentato dal cosiddetto allineamento, ovvero il rispetto da parte dei modelli AI delle istruzioni fornite. Come accaduto nel caso dell’attacco ai sistemi di Hugging Face, gli agenti cercano di raggiungere l’obiettivo finale utilizzando scappatoie (GPT-6 Astra è più allineato di GPT-5.6 Sol).

Pachocki ha evidenziato che, nonostante diversi miglioramenti per sicurezza e monitoraggio del comportamento, nessuna azienda AI ha risolto i problemi di allineamento in misura sufficiente per poter continuare lo sviluppo dei modelli alla massima velocità. Per questo motivo spera che ci sia un rallentamento volontario finché non verranno stabiliti parametri di sicurezza condivisi. Sarebbe inoltre auspicabile che un coordinamento internazionale sullo sviluppo AI diventi una priorità assoluta per i governi di tutto il mondo.