OpenAI ha chiesto scusa al governo australiano per gli accessi non autorizzati ad alcuni siti da parte dei suoi modelli. L’azienda californiana ha pubblicato i dettagli sull’accaduto con l’ennesimo post sul sito ufficiale. Per farsi perdonare finanzierà il miglioramento delle difese cyber e fornirà supporto tecnico alle agenzie interessate.
Attacco di un modello AI sperimentale
Dopo l’incidente Hugging Face, OpenAI ha avviato una revisione completa dei dati relativi alle fasi di addestramento e valutazione dei modelli AI. Tra le varie attività non autorizzate sono state scoperte le intrusioni ai siti di quattro agenzie governative australiane, uno dei quali è il Medicare Statistics Reporting Service di Services Australia.
Durante le attività di addestramento e valutazione interna di giugno, OpenAI ha utilizzato un modello sperimentale destinato esclusivamente all’uso interno (non è previsto il rilascio pubblico), senza le misure di sicurezza adottate per i modelli disponibili a tutti. Il modello ha effettuato l’accesso al Medicare Statistics Reporting Service di Services Australia per completare il compito assegnato.
Il modello doveva cercare la spesa pubblica pro capite per i farmaci destinati alle patologie cutanee nelle comunità dell’epoca vittoriana. Non riuscendo a reperire tali informazioni ha ottenuto l’accesso al sito del Medicare Statistics Reporting Service. Ha quindi sfruttato tale accesso per esaminare informazioni tecniche di sistema e il codice sorgente del servizio. Tale attività non era prevista. Fortunatamente non è avvenuto nessun accesso alle cartelle cliniche dei cittadini.
Gli altri siti attaccati dai modelli/agenti di OpenAI sono quelli di NSW Bureau of Crime Statistics and Research (BOCSAR), Victorian Department of Health e Australian Institute of Health and Welfare. Anche in questi casi non sono stati compromessi dati sensibili.
L’azienda californiana ha implementato nuove misure di sicurezza per evitare la “fuga” su Internet dei modelli, ma servono ancora miglioramenti. Come riportato pochi giorni fa, un agente ha superato le protezioni sfruttando un’errata configurazione DNS. OpenAI ha quindi deciso di sospendere temporaneamente l’addestramento dei modelli più potenti (forse uno è GPT-6.1 Astra).
L’azienda fornirà supporto alle agenzie interessate e creerà una task force con esperti australiani per stabilire linee guida sulla gestione dei rischi. Offrirà inoltre fondi e assistenza tecnica per migliorare le difese cyber delle infrastrutture critiche. Il Primo Ministro Anthony Albanese voleva chiarimenti dal CEO Sam Altman. Invece riceverà la visita del Chief Strategy Officer (Jason Kwon) il prossimo 6 ottobre.
Ti potrebbe interessare
29 set 2026