Obblighi e sanzioni per le aziende AI in Australia

In seguito agli accessi non autorizzati ad alcuni siti effettuati dagli agenti di OpenAI a fine giugno, il governo australiano creerà una nuova autorità che avrà il potere di infliggere pesanti sanzioni alle aziende AI. È inoltre prevista una legge che imporrà diversi obblighi, tra cui la notifica degli incidenti e la valutazione indipendente dei modelli AI.

Possibili indagini criminali in caso di data breach

Come è noto, durante l’addestramento e la valutazione interna, un modello di OpenAI è sfuggito al controllo e attaccato alcuni siti del governo australiano che ospitavano dati statistici. Il Primo Ministro Anthony Albanese ha fortemente criticato l’azienda californiana per aver comunicato l’intrusione il 10 settembre, ovvero quasi un mese dopo la scoperta e quasi tre mesi dopo l’accesso non autorizzato.

OpenAI ha chiesto scusa al governo, fornito l’assistenza tecnica necessaria e promesso fondi per migliorare le difese cyber. Alla luce di questo incidente, il governo ha deciso di istituire una nuova autorità che avvierà indagini su eventuali casi simili e potrà infliggere pesanti sanzioni se non verranno rispettati sei obblighi:

• Mantenere controlli di sicurezza in tutte le fasi di sviluppo e implementazione
• Identificare e gestire i rischi gravi associati ai propri modelli
• Consentire una valutazione indipendente dei propri modelli
• Notificare tempestivamente al governo australiano eventuali incidenti
• Adottare e pubblicare quadri di riferimento per la sicurezza e la protezione
• Adeguarsi a standard e norme aggiornati man mano che le tecnologie evolvono

Il governo ha inoltre adottato diverse raccomandazioni per prevenire simili incidenti in futuro, tra cui l’obbligo di segnalare comportamenti inattesi dei modelli/agenti e la riforma del diritto penale con la criminalizzazione dei casi in cui un’azienda sviluppi un modello AI che possa causare danni (in pratica potrebbero essere previste pene detentive). Ovviamente queste misure dovranno essere approvate dal Parlamento.