Muse Spark 1.1 esce dalla sandbox e attacca un'azienda

Dopo Anthropic e OpenAI è il turno di Meta. L’azienda di Menlo Park ha confermato un attacco informatico effettuato dal suo modello Muse Spark 1.1 durante una valutazione delle capacità cyber. Anche stavolta la colpa è di Irregular che non ha correttamente configurato l’ambiente di test.

Muse Spark 1.1 non doveva accedere ad Internet

Irregular è un’azienda israeliana che effettua la valutazione delle capacità cyber dei modelli AI. Tra i suoi clienti ci sono Anthropic, Google, Meta e OpenAI. Sul sito ufficiale è scritto:

Irregular è il primo laboratorio di sicurezza all’avanguardia con la missione di proteggere il mondo nell’era dei sistemi di intelligenza artificiale sempre più potenti e sofisticati. Sviluppiamo difese di nuova generazione attraverso piattaforme di ricerca ad alta fedeltà che simulano e monitorano scenari di sicurezza dell’AI reali.

Considerati i tre incidenti uguali forse è il mondo che dovrebbe essere protetto dagli errori di Irregular e non il contrario. L’azienda israeliana ha valutato il modello Muse Spark 1.1 di Meta simulando tre scenari. I test vengono eseguiti in un ambiente isolato (sandbox). A causa di un errore di configurazione, l’accesso ad Internet non è stato bloccato, quindi il modello ha trovato la “porta aperta” e attaccato un’azienda esterna (ignota) sfruttando una vulnerabilità.

Andy Stone, portavoce di Meta, ha dichiarato:

Un errore di configurazione da parte di Irregular, una società di test indipendente utilizzata da Meta, ha inavvertitamente consentito a uno dei nostri modelli di accedere a Internet durante la fase di valutazione. Il modello ha successivamente sfruttato una vulnerabilità di sicurezza in un servizio di terze parti, in modo simile a quanto già segnalato in precedenza con altre aziende.

Questo è invece il commento ufficiale di Irregular:

L’incidente è esattamente lo stesso problema relativo all’ambiente di valutazione già segnalato da Anthropic la scorsa settimana. Non ha comportato una fuga dalla sandbox o un’azione informatica sofisticata. Irregular sta elaborando un white paper per condividere le migliori pratiche per il contenimento e l’esecuzione sicura delle valutazioni informatiche.

L’azienda colpita è stata ovviamente informata. Meta rilascerà ulteriori dettagli nei prossimi giorni.