Hugging Face: cyberattacco effettuato da GPT-5.6 Sol

OpenAI ha confermato che l’accesso non autorizzato alla piattaforma di Hugging Face è stato effettuato da GPT-5.6 Sol e un altro modello più potente attualmente in sviluppo. Gli agenti AI basati sui due modelli hanno aggirato l’ambiente di test isolato (sandbox) e attaccato l’infrastruttura dell’azienda di New York.

OpenAI ha violato la legge?

GPT-5.6 Sol è il più potente dei modelli AI annunciati da OpenAI a fine giugno. Il governo statunitense ha imposto un rilascio controllato perché potrebbero essere utilizzati per eseguire attacchi informatici dai nemici storici. Dal 9 luglio sono accessibili al pubblico.

L’amministrazione Trump vorrebbe anche vietare l’uso dei modelli cinesi. Ma quanto accaduto dimostra che la “minaccia è in casa”. Hugging Face ha rilevato un’intrusione da parte di un agente AI, senza indicare il nome. OpenAI ha ora ammesso che l’accesso non autorizzato è stato effettuato da GPT-5.6 Sol e un altro modello in sviluppo. In pratica, un’azienda statunitense ha attaccato un’azienda statunitense.

OpenAI spiega che l’incidente si è verificato durante una valutazione interna delle capacità cyber. Per il test sono state rimosse le protezioni, ma l’esecuzione doveva essere confinata nella sandbox. Invece i due modelli hanno trovato il modo di accedere ad Internet, mentre cercavano una soluzione per ExploitGym, un benchmark che misura la capacità di convertire le vulnerabilità in exploit.

Ciò è avvenuto sfruttando una vulnerabilità zero-day di un software di terze parti usato da OpenAI. Dopo aver ottenuto l’accesso ad Internet, i modelli hanno usato credenziali rubate e vulnerabilità zero-day per eseguire codice remoto sui server di Hugging Face. OpenAI ha implementato maggiori protezioni e migliorato i sistemi di valutazione dei modelli. Pochi giorni fa aveva descritto un simile comportamento da parte di un modello (aggiramento della sandbox).

L’incidente conferma le avanzate capacità cyber dei modelli attuali e quindi la necessità di effettuare valutazioni più approfondite prima del rilascio pubblico. Il CEO e co-fondatore di Hugging Face ha ringraziato OpenAI per la collaborazione. In teoria, l’azienda californiana potrebbe essere denunciata per la violazione del Computer Fraud and Abuse Act.