Agente di OpenAI ha attaccato un sito del governo australiano

Oltre a quelli descritti da OpenAI sono stati segnalati altri incidenti che riguardano gli agenti AI dell’azienda californiana. Uno di essi è stato confermato dal Primo Ministro dell’Australia (Anthony Albanese) durante una conferenza stampa alle Nazioni Unite. Il bersaglio era il sito di Medicare, il programma di assistenza sanitaria del paese.

Accesso non autorizzato senza conseguenze

Il Primo Ministro ha spiegato che l’attacco al portale statistico di Australian Medicare è avvenuto il 18 giugno. OpenAI a rilevato l’attività del suo agente AI ad agosto, ma ha notificato l’incidente al governo australiano il 10 settembre. Anthony Albanese ha comunicato che è avvenuto un accesso non autorizzato a file pubblici e non pubblici. Al momento sembra che non siano interessati i dati medici dei cittadini (l’indagine è ancora in corso).

Il Primo Ministro ha dichiarato:

Questa situazione è ovviamente inaccettabile. Ho parlato con il CEO di OpenAI (Sam Altman) per esprimere la profonda preoccupazione dell’Australia riguardo a questo incidente. Ho inoltre manifestato il mio disappunto per il fatto che l’azienda abbia impiegato fin troppo tempo a informare il governo dell’accaduto. Anche le modalità con cui è avvenuta la comunicazione sono state inaccettabili (tramite una casella di posta pubblica).

Albanese ha annunciato la creazione di una task force che dovrà esaminare con urgenza l’incidente e valutare se le protezioni di sicurezza sono sufficienti per rispondere a questo tipo di attacchi.

Questo è invece il comunicato ufficiale di OpenAI:

L’azienda stava conducendo un’analisi approfondita dell’attività dei modelli che presentava disallineamento durante la fase di addestramento. Nel corso di tale analisi abbiamo individuato attività che hanno coinvolto diversi siti web e servizi del governo australiano, verificatesi mentre i nostri modelli tentavano di reperire risposte e statistiche disponibili relative all’Australia durante una valutazione interna. In tale contesto, i nostri modelli hanno compiuto azioni non previste. Dalla nostra analisi non è emersa alcuna prova di accessi a cartelle cliniche dei pazienti. Le informazioni a cui è stato effettuato l’accesso comprendevano statistiche sanitarie aggregate e nomi di file interni. Abbiamo informato le organizzazioni coinvolte e stiamo fornendo informazioni tecniche per supportare le loro indagini e contribuire a risolvere eventuali vulnerabilità di sicurezza.

Il portale di Medicare non è quindi l’unico colpito dagli agenti AI. I ricercatori di Transluce AI hanno rilevato un attacco contro il sito dell’Australian Institute of Health and Welfare. Il tentativo di accedere ai dati è stato bloccato dal firewall di Cloudflare.

Altri due attacchi senza successo sono stati effettuati contro la biblioteca digitale dell’Università del New Mexico e il servizio Data USA. È quasi certo che verranno scoperti altri incidenti nei prossimi giorni. Ciò dimostra che le protezioni usate durante addestramento e valutazione dei modelli non sono adeguate. OpenAI ha suggerito di rallentare lo sviluppo (come Anthropic), ma nel frattempo continua ad annunciare nuovi modelli.