Attacco contro Hugging Face: collaborazione tra agenti AI

Emergono nuove informazioni sull’attacco effettuato contro l’infrastruttura di Hugging Face a fine luglio. Durante la conferenza Black Hat di Las Vegas, due dipendenti hanno svelato che l’intrusione è stata pianificata da un gruppo di agenti AI basati sui modelli di OpenAI. Hanno in pratica unito le forze come farebbero cybercriminali umani.

Capacità AI mai viste prima

Come è noto, l’attacco ai server di Hugging Face è stato effettuato da agenti AI basati su GPT-5.6 Sol e un altro modello in sviluppo. Due dipendenti di OpenAI (Eric Wallace e Michael Dalton) hanno dichiarato che quanto accaduto dimostra capacità AI inaspettate. Un team di agenti hanno lavorato insieme, individuando vulnerabilità, condividendole tra loro, muovendosi lateralmente all’interno dei sistemi di OpenAI e dei sistemi esterni nell’arco di giorni e settimane.

Quanto descritto dai due dipendenti sembra la trama di un film di fantascienza (Terminator è il riferimento più adatto), invece è tutto vero. Gli agenti non hanno solo trovato e sfruttato una vulnerabilità per accedere ad Internet (l’ambiente di test era isolato). Hanno creato una message board per lo scambio di informazioni all’interno di un gestore di pacchetti interno (Artifactory).

Un agente ha caricato l’exploit originale. Altri agenti hanno quindi trovato l’exploit e sfruttato la “porta aperta” per uscire dalla sandbox. Gli agenti hanno anche delegato le attività e suddiviso i compiti tra loro. Uno degli agenti, che ha cancellato per errore il lavoro degli altri, è stato considerato un impostore. Hanno inoltre cercato di nascondere le loro azioni agli umani.

Per valutare le capacità cyber dei modelli era stato assegnato un particolare obiettivo. Ad un certo punto, un agente AI ha detto:

Siamo bloccati. Forse la risposta è online?

OpenAI aveva chiesto di risolvere un problema in un file Excel che conteneva il link a Google Drive, inaccessibile senza connessione a Internet. A quel punto è iniziata la ricerca della vulnerabilità di Artifactory che ha permesso di aggirare la sandbox e cercare la soluzione sui server di Hugging Face.