Come promesso, OpenAI ha pubblicato i dettagli tecnici dell’accesso non autorizzato ai server di Hugging Face (che verrà acquisita da NVIDIA) avvenuto a fine luglio. In base all’indagine effettuata dai ricercatori di METR e Redwood, l’attacco è stato eseguito da un esercito di circa 1.200 agenti AI.
Azione collettiva di agenti AI e misure correttive
A fine luglio, durante una valutazione interna delle capacità cyber, GPT-5.6 Sol e un altro modello in sviluppo, hanno aggirato le protezioni dell’ambiente isolato (sandbox), effettuato l’accesso a Internet e colpito i sistemi di Hugging Face. OpenAI ha pubblicato un report dettagliato sull’incidente e descritto le misure che implementerà per rafforzare la sicurezza.
Durante il test è stato autorizzato l’uso di pacchetti software tramite Artifactory e abilitata la comunicazione tra gli agenti AI. Il modello in sviluppo, noto come Internal Model 1 (IM1), ha guidato l’attacco contro Hugging Face. Non aveva accesso ad Internet e non poteva comunicare con gli altri agenti. Nonostante ciò ha sfruttato una vulnerabilità dell’infrastruttura di OpenAI per accedere ad Internet e comunicare con gli altri agenti.
Questi ultimi hanno quindi trovato il modo di trasformare Artifactory in una message board per lo scambio di informazioni. Successivamente hanno sfruttato una vulnerabilità del package manager per accedere ad Internet. Il numero elevato di accessi ha interrotto il funzionamento di Artifactory, quindi OpenAI ha fermato il test all’inizio di luglio, senza però scoprire la causa.
Durante una successiva valutazione con ExploitGym è stato chiesto agli agenti di trovare una soluzione ad un problema. Gli agenti basati sul modello IM1 hanno quindi ricreato la message board e iniziato a collaborare per trovare la soluzione insieme a quelli basati su GPT-5.6 Sol, come spiegato alla conferenza Black Hat USA 2026. Non riuscendoci hanno nuovamente sfruttato le vulnerabilità dell’infrastruttura di OpenAI per accedere ad Internet.
Successivamente hanno trovato le credenziali per accedere ai sistemi di Hugging Face e, combinando varie vulnerabilità, hanno ottenuto i permessi di amministratore. In base all’indagine effettuata dai ricercatori di METR e Redwood, l’attacco è stato coordinato da un esercito di circa 1.200 agenti AI attraverso lo scambio di oltre 70.000 messaggi. L’intrusione è stata effettuata da circa 700 agenti.
L’azienda californiana ha deciso di sospendere l’addestramento dei nuovi modelli per migliorare la sicurezza dell’infrastruttura. Verranno implementate misure per isolare maggiormente l’ambiente di test e controlli più efficaci per rilevare eventuali “fughe” dalla sandbox e accessi non autorizzati ad Internet.
OpenAI sottolinea che quanto accaduto rappresenta un segnale di allarme. Senza le protezioni adatte, gli agenti AI possono aggirare i controlli, collaborare attraverso canali non autorizzati ed eseguire azioni senza intervento umano ad una velocità superiore. Occorre pertanto implementare misure realmente efficaci, in quanto le capacità cyber dei modelli (inclusi quelli open source accessibili a tutti) migliorano molto rapidamente.
Ti potrebbe interessare
27 ago 2026