Difesa collettiva contro attacchi AI: appello di 118 aziende

Anthropic, Google, Microsoft, OpenAI, Perplexity e altre aziende (sono 118 in totale) hanno firmato una lettera aperta per suggerire un’azione collettiva in tema di cybersicurezza. È necessaria una stretta collaborazione per implementare misure che possano velocizzare la risoluzione delle vulnerabilità e quindi prevenire gli attacchi effettuati con modelli o agenti AI. L’azienda di Redmond ha evidenziato che la cosiddetta “patch window” diventa sempre più piccola.

È urgente migliorare le difese cyber

OpenAI sottolinea che, nei prossimi mesi, gli attacchi informatici con l’AI diventeranno molto più diffusi e sofisticati. Le aziende e i servizi pubblici da cui dipendono le comunità, dagli ospedali agli impianti di depurazione delle acque fino all’infrastruttura che alimenta Internet, sono a rischio. L’azienda californiana non cita però l’accesso effettuato da suoi stessi agenti AI ai server di Hugging Face.

I firmatari della lettera elencano tre proposte per una risposta collettiva e quindi un miglioramento delle difese cyber:

• Riconoscere che la sicurezza attuale non sarà sufficiente: bug persistenti, autorizzazioni eccessive, configurazioni errate, software non sicuro e non aggiornato, autenticazione debole hanno reso i sistemi vulnerabili. I team di sicurezza, in particolare quelli che si occupano di infrastrutture critiche, sono stati storicamente sottodimensionati e necessitano di un incremento di strumenti e risorse
• Più difensori con capacità informatiche: l’AI mette a disposizione competenze specialistiche a un numero maggiore di addetti alla sicurezza, rendendo le attività di sicurezza fondamentali più rapide, economiche ed efficaci. La condivisione di strumenti, conoscenze pratiche e soluzioni verificate consente ad un’organizzazione di contribuire alla protezione di molte altre
• Serve una risposta collettiva: le capacità informatiche si stanno evolvendo a livello globale, quindi è necessaria una risposta globale che richiede nuove partnership per innalzare gli standard di sicurezza e trovare nuove soluzioni alle minacce informatiche emergenti

Nella lettera ci sono inoltre diversi consigli per ogni organizzazione, aziende che si occupano di cybersicurezza, aziende che sviluppano modelli AI e governi. Microsoft ha evidenziato che la “patch window” diventa sempre più piccola. L’uso dei tool AI per eseguire gli attacchi ha ridotto l’intervallo di tempo tra la scoperta della vulnerabilità e il suo sfruttamento.