Agenti di OpenAI hanno attaccato RubyGems a maggio

I ricercatori del Nightingale Collective (gli stessi che hanno descritto l’uso non autorizzato di un sito tedesco) hanno individuato un altro attacco effettuato da agenti di OpenAI. È avvenuto all’inizio di maggio, come indicato nella timeline dell’incidente. Il bersaglio era RubyGems, il package manager del linguaggio Ruby. L’azienda californiana ha confermato l’accaduto e fornirà i dettagli al termine dell’indagine.

Non è chiaro lo scopo dell’attacco

Come riporta il Wall Street Journal, quello di maggio è il primo attacco in ordine di tempo (per adesso) e il settimo in totale che riguarda OpenAI. Secondo molti esperti di sicurezza verranno sicuramente scoperti altri attacchi nei prossimi giorni. È chiaro che l’azienda californiana non ha implementato adeguate protezioni durante la valutazione delle capacità dei suoi modelli (il CEO ha suggerito di rallentare lo sviluppo).

All’attacco, rilevato all’inizio di maggio, era stato dato il nome GemStuffer. A distanza di quattro mesi si scopre che gli autori non sono umani, ma agenti AI di OpenAI. A questi ultimi era stato assegnato il compito di recuperare informazioni da Internet. Per motivi attualmente ignoti hanno creato numerosi account su RubyGems, sfruttando una vulnerabilità nel sistema di verifica delle email.

Hanno successivamente caricato oltre 2.000 pacchetti (noti come gem) su RubyGems. Il team di sicurezza ha rilevato un aumento improvviso del traffico (simile ad un attacco DDoS), disattivato la registrazione di nuovi account per quattro giorni e rimosso oltre 500 pacchetti. Dopo aver riaperto le registrazioni, gli agenti hanno pubblicato altri 88 pacchetti fino al 18 giugno.

Gli agenti hanno tentato anche di rubare le chiavi API sfruttando un’altra vulnerabilità, ma senza riuscirci, come riporta Ruby Central, l’azienda non-profit che gestisce RubyGems. Al momento non è chiaro perché gli agenti hanno attaccato RubyGems per eseguire un compito banale (raccolta di informazioni pubbliche online).