Attacchi degli agenti AI: denuncia per OpenAI in California

Attacchi degli agenti AI: denuncia per OpenAI in California

Il Procuratore Generale della California ha denunciato OpenAI per aver ingannato gli utenti sulla sicurezza dei modelli AI e l'assenza di controlli.
Attacchi degli agenti AI: denuncia per OpenAI in California
Il Procuratore Generale della California ha denunciato OpenAI per aver ingannato gli utenti sulla sicurezza dei modelli AI e l'assenza di controlli.

Il Procuratore Generale della California (Rob Bonta) ha ha presentato una denuncia contro OpenAI per aver ingannato e messo in pericolo il pubblico, sviluppando e testando consapevolmente modelli AI privi delle tutele e del monitoraggio necessari per proteggere adeguatamente la collettività. Quello avvenuto ai danni di Hugging Face a fine luglio è solo uno degli oltre 80 incidenti causati dall’assenza di controlli. La prima indagine è stata avviata dal Procuratore dell’Alabama a fine agosto.

OpenAI mette in pericolo le persone con i suoi esperimenti

Come è noto, durante una valutazione interna delle capacità cyber, GPT-5.6 Sol e un altro modello in sviluppo, hanno aggirato le protezioni dell’ambiente isolato (sandbox), effettuato l’accesso a Internet e colpito i sistemi di Hugging Face. In base all’indagine effettuata dai ricercatori di METR e Redwood, l’attacco è stato coordinato da un esercito di circa 1.200 agenti AI attraverso lo scambio di oltre 70.000 messaggi. L’intrusione è stata effettuata da circa 700 agenti.

Nella denuncia (PDF) è scritto che OpenAI ha rimosso le protezioni durante gli esperimenti interni, nonostante sapesse dell’imprevedibilità del comportamento dei modelli. L’azienda californiana ha ammesso la sua responsabilità solo dopo la pubblicazione dei dettagli sull’attacco da parte di Hugging Face (che non aveva indicato il nome dei modelli).

Il Procuratore Generale della California ha avviato un’indagine all’inizio di settembre e successivamente chiesto informazioni sull’accaduto. OpenAI ha confermato di aver perso il controllo degli agenti AI oltre 80 volte durante i test, ma solo 27 incidenti sono stati svelati in pubblico.

Nella denuncia sono citati anche gli attacchi contro RubyGems, DseWiki, Wikimedia Foundation e i siti del governo australiano.

OpenAI ha ripetutamente affermato di aver adottato misure di salvaguardia adeguate durante lo sviluppo e il test dei modelli AI. Invece ha continuato ad effettuare sperimentazioni in modo aggressivo, nonostante prove che dimostravano come le sue misure di sicurezza fossero insufficienti a contenere i modelli.

Il Procuratore accusa l’azienda californiana di aver violato la Unfair Competition Law e causato un pericolo per la collettività attraverso affermazioni false e la carenza di controlli di sicurezza. Viene quindi chiesto al giudice di emettere un’ingiunzione per bloccare le pratiche pericolose di OpenAI e un risarcimento danni.

Un portavoce dell’azienda ha dichiarato:

Questa causa sembra prendere di mira specificamente OpenAI riguardo ad una sfida che è stata individuata da tutti i principali laboratori di intelligenza artificiale. Prendiamo molto sul serio il problema del disallineamento e abbiamo collaborato – e continueremo a collaborare – in modo costruttivo con l’ufficio del Procuratore Generale per condividere informazioni e promuovere standard di sicurezza solidi e concreti per l’intero settore.

Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il
17 nov 2026
Link copiato negli appunti