OpenAI spiega come difendersi dagli agenti AI

Dopo aver perso il controllo dei suoi agenti AI che hanno attaccato i server di Hugging Face, OpenAI vuole “ripulirsi la coscienza” spiegando come intende migliorare le protezioni contro simili incidenti e fornendo utili suggerimenti per la cosiddetta cyberdifesa. L’articolo sul sito ufficiale è stato scritto dal co-fondatore e presidente Greg Brockman.

I modelli open source diventano più potenti

Il presidente spiega che l’incidente OpenAI-Hugging Face è stato un momento spartiacque per la sicurezza informatica perché ha anticipato cosa potrebbe succedere nei prossimi mesi, se i nuovi modelli AI verranno usati dai cybercriminali. Le loro avanzate capacità possono essere sfruttate per trovare e sfruttare le vulnerabilità software, ma anche per scrivere le patch. È quindi necessario migliorare le pratiche di cybersicurezza con una maggiore velocità rispetto al passato.

I recenti modelli AI di OpenAI sono accessibili solo ad un numero limitato di partner che possono sfruttare le capacità cyber per rafforzare le difese. Brockman sottolinea però che i modelli open source sono diventati più potenti, citando i miglioramenti ottenuti da Z.ai con GLM-5.3 (disponibile gratuitamente entro fine agosto). OpenAI è una delle aziende che non vuole il loro ban.

Brockman ha testato le capacità di GPT-5.6 Sol sul sito personale, usando ChatGPT Work. In appena 15 minuti ha trovato 13 vulnerabilità e errori di configurazione. Lo stesso agente AI ha quindi corretto i problemi in circa un’ora. Ciò dimostra che i modelli AI possono diventare cyberguardiani.

Il presidente di OpenAI ammette che sono state sottostimate le capacità cyber dei modelli. L’azienda californiana ha quindi avviato una serie di azioni per migliorare le difese usando gli stessi modelli, tra cui la risoluzione delle vulnerabilità presenti nel codice usato internamente e il monitoraggio continuo dei possibili percorsi di attacco.

Brockman ha infine fornito vari consigli che dovrebbero essere seguiti dalle aziende, come risorse dedicate, uso di agenti specializzati, valutazione dei rischi, simulazioni e validazione dei risultati con interventi umani.