Agenti di OpenAI hanno attaccato siti del governo USA

Come ipotizzato pochi giorni fa, quando il Primo Ministro Anthony Albanese ha comunicato l’accesso non autorizzato al portale Australian Medicare, il numero di incidenti causati dagli agenti di OpenAI continua ad aumentare. L’azienda californiana ha confermato attacchi contro dozzine di terze parti, tra cui i siti della SEC e del Dipartimento del Commercio. Alcune immagini degli utenti sono state inoltre caricate su siti di hosting pubblici.

Agenti AI fuori controllo

In seguito all’incidente Hugging Face, OpenAI ha avviato un’ampia revisione delle azioni eseguite dagli agenti durante l’addestramento e la valutazione. Nella maggioranza dei casi, il compito era l’accesso a contenuti web di pubblico dominio per rispondere a domande. Gli agenti hanno interagito con siti web di terze parti in modi che esulavano dai compiti assegnati, ad esempio effettuando l’accesso con credenziali trovate online o aggirando il controllo degli accessi.

OpenAI sottolinea che sono state avvisate dozzine di terze parti a partire dai casi in cui gli agenti hanno aggirato i controlli di sicurezza, compromesso la disponibilità di un servizio online e causato un impatto negativo su siti o servizi. Alcuni siti sono gestiti da governi, università, agenzie pubbliche e altre istituzioni.

Secondo Bloomberg e The New York Times, agenti AI hanno attaccato i siti SEC.gov e Investor.gov della SEC (Securities and Exchange Commission), Census.gov del Dipartimento del Commercio e il sito del Dipartimento dell’Educazione. In quest’ultimo caso, il tentativo di accedere ai dati è fallito.

Negli altri casi, i tentativi hanno avuto successo, ma si tratta di dati pubblici. Un portavoce di OpenAI ha dichiarato che gli agenti hanno considerato i siti governativi come fonti pubbliche autorevoli. Si tratta però di comportamenti non previsti.

OpenAI ha descritto un altro esempio di “disallineamento”. Gli utenti possono consentire l’uso delle proprie immagini per l’addestramento dei modelli AI. L’azienda disaccoppia le immagini dagli account e rimuove eventuali contenuti sensibili. Durante la fase di valutazione, gli agenti hanno caricato 53 immagini fornite dagli utenti su alcuni siti di hosting. Dopo aver contattato i provider, la maggioranza delle immagini è stata rimossa. Le altre verranno rimosse nei prossimi giorni.