OpenAI sospende l'addestramento dei modelli per 2 settimane

OpenAI aveva comunicato una pausa per Astra. L’azienda californiana ha ora annunciato la sospensione dell’addestramento per tutti i modelli AI, in seguito all’incidente che ha interessato Hugging Face. È necessario sviluppare nuove protezioni per evitare simili episodi in futuro. Il presidente Greg Brockman aveva spiegato come verranno migliorate le difese interne.

OpenAI rafforzerà le protezioni nelle prossime due settimane

L’attacco ai server di Hugging Face da parte di agenti AI basati su GPT-5.6 Sol e un altro modello in test (non era Astra) dimostra che le protezioni attuali non sono sufficienti. OpenAI sottolinea che, insieme alle capacità dei modelli, crescono anche i rischi associati al loro sviluppo. L’azienda afferma che gli standard di monitoraggio, allineamento e sicurezza devono essere aggiornati, quindi l’addestramento dei modelli è stato sospeso per due settimane.

Il team dedicato valuterà il comportamento dei modelli, convaliderà le misure di sicurezza ed effettuerà maggiori prove di allineamento, ovvero verificare che i sistemi AI si comportino come previsto e rispondano alla supervisione umana. Durante lo sviluppo dei modelli verranno migliorati tre aspetti: monitoraggio (rileva comportamenti preoccupanti), allineamento (riduce la probabilità di azioni dannose o non autorizzate) e misure di sicurezza (limitano ciò a cui i sistemi possono accedere o su cui possono intervenire).

Nelle prossime due settimane verranno implementati tre principali miglioramenti:

• OpenAI rafforzerà l’isolamento (sandbox) durante l’esecuzione del codice generato dai modelli (ciò si applica anche al software che potrebbe essere compromesso durante l’elaborazione degli output dei modelli)
• OpenAI implementerà ulteriori controlli per isolare da Internet i test ad alto rischio
• OpenAI riconfigurerà l’ambiente di lavoro per rimuovere i servizi condivisi potenzialmente vulnerabili, ridurre i privilegi permanenti e migliorare i confini di sicurezza. Migliorerà inoltre la capacità di raccogliere e monitorare i log di sicurezza

Il monitoraggio viene ora eseguito tramite classificatori che esaminano le azioni, il ragionamento e l’intera sequenza di attività per individuare accessi non autorizzati, furti di dati, comportamenti distruttivi e tentativi di eludere le misure di sicurezza. Se il sistema di monitoraggio identifica una probabile violazione di sicurezza viene generato un avviso di massima priorità entro 30 minuti. Se entro questo termine non è possibile stabilire con certezza che l’allarme è un falso positivo, l’attività viene interrotta.

OpenAI intende condividere le soluzioni adottate con altre aziende. Nelle prossime settimane verrà pubblicato un report tecnico.