Hugging Face conferma cyberattacco con un agente AI

Hugging Face ha confermato un accesso non autorizzato al suo sistema di produzione. Sembra un normale incidente informatico, come tanti altri. Invece rappresenta un’anticipazione del futuro. L’intrusione è stata interamente condotta da un agente AI in maniera autonoma. L’azienda di New York ha utilizzato un modello open source cinese per individuare le tracce dell’attacco.

I costosi modelli statunitensi non hanno funzionato

L’attacco è stato eseguito la scorsa settimana. L’accesso iniziale è avvenuto attraverso la pipeline di elaborazione dei dati. Un dataset malevolo ha sfruttato due percorsi di esecuzione del codice (un loader di dataset con codice remoto e un’iniezione di template nella configurazione del dataset) per eseguire codice su un worker di elaborazione. Successivamente è stato effettuato l’accesso a livello di nodo e sono state recuperate le credenziali cloud per accedere ai cluster interni.

L’attacco è stato effettuato da un agente AI (Hugging Face non ha individuato il modello) che ha permesso di eseguire migliaia di azioni in autonomia, gestite tramite un sistema di comando e controllo installato su servizi pubblici. L’azienda ha risolto la vulnerabilità, revocato credenziali e token, rafforzato le protezioni e migliorato i sistemi di rilevazione.

Hugging Face ha utilizzato i suoi agenti AI per analizzare oltre 17.000 log, ovvero le registrazioni delle azioni eseguite durante l’attacco. Inizialmente sono stati usati agenti basati su modelli AI commerciali (non è noto quali), ma non ha funzionato. Questi modelli (sicuramente quelli di aziende statunitensi, tra cui Anthropic e OpenAI) hanno bloccato i prompt, in quanto non sono in grado di distinguere gli attaccanti dai difensori.

L’analisi dei log e l’individuazione delle tracce lasciate durante l’attacco sono state invece completate con successo da GLM-5.2, un modello open source del provider cinese Z.ai. Hugging Face sottolinea una grave asimmetria. I cybercriminali possono usare modelli avanzati, ma i bersagli degli attacchi non possono usare i modelli come arma di difesa. Le prestazioni dei modelli cinesi, come Kimi K3 di Moonshot e Qwen 3.8 di Alibaba, si avvicinano a quelle di Fable 5 e GPT-5.6 Sol.