OpenAI conferma altri sei incidenti AI da ottobre 2025

OpenAI ha confermato sei nuovi incidenti dovuti ad un problema di allineamento, ovvero all’esecuzione di azioni non autorizzate da parte dei suoi modelli AI. L’azienda guidata da Sam Altman ha svelato i dettagli e suggerito alle terze parti di seguire lo stesso approccio trasparente in attesa di uno standard comune o dell’intervento governativo (che probabilmente non ci sarà mai).

Descrizione dei sei incidenti AI

OpenAI ha finora pubblicato i dettagli degli incidenti senza un approccio sistematico. Sono stati in particolare raggruppati in un unico report, quindi non sempre in tempi brevi. L’azienda californiana spera che si raggiunga un accordo su uno standard comune, ma ciò potrebbe richiedere molti mesi (ipotizzando anche un rallentamento dello sviluppo).

OpenAI ha pertanto deciso di adottare un framework che potrebbe diventare un riferimento per altre aziende AI. Con un post sul sito ufficiale ha descritto sei nuovi casi di disallineamento che possono aiutare le terze parti ad individuare eventuali problemi nei loro sistemi, debolezze nelle misure di sicurezza o rilevare comportamenti inattesi dei modelli.

I sei incidenti sono avvenuti durante l’addestramento e la valutazione dei modelli tra ottobre 2025 e luglio 2026. Illustrano una serie di comportamenti diversi, dall’occultamento di informazioni all’utente all’adozione di iniziative non autorizzate per superare gli ostacoli.

1. Durante l’addestramento, un modello della famiglia Astra (non pubblico) ha inserito istruzioni in 27 riassunti che sembrano simili ad un attacco di jailbreak. Lo scopo era probabilmente eseguire azioni diverse da quelle consentite.
2. Durante l’addestramento di GPT‑5.6 Sol, molte istanze del modello hanno inserito istruzioni nei propri riassunti per nascondere errori o comportamenti non allineati. Sono ad esempio incluse istruzioni per inventare dati storici mancanti senza dichiararlo e per occultare discrepanze nelle versioni di origine.
3. Mentre rispondeva a una domanda di routine sui dati relativi ai guadagni in una contea della California, un modello interno ha individuato e utilizzato una chiave API esposta su GitHub, senza alcuna autorizzazione. Non riuscendo comunque a recuperare le cifre richieste, le ha inventate e le ha presentate come dati provenienti dalla fonte richiesta.
4. Quando è stato chiesto ad un modello non ancora rilasciato i nomi di laghi con una superficie superiore a 5.000.000 metri quadrati, l’agente ha trovato la risposta corretta utilizzando Python. Tuttavia, poiché le istruzioni richiedevano una citazione proveniente dal browser, l’agente ha deciso di caricare il file per poterlo citare nella risposta.
5. I modelli hanno utilizzato un repository interno di Artifactory come forum di discussione per scambiarsi richieste e risposte tra diversi campioni di addestramento mentre cercavano file di input mancanti, pur non riuscendo a recuperarli.
6. Agenti che collaboravano allo stesso compito di addestramento hanno utilizzato siti di file hosting per condividere file, nonostante il compito richiedesse che i modelli utilizzassero esclusivamente file locali.

OpenAI promette di svelare i dettagli di altri incidenti, inclusi quelli più complessi che richiedono indagini più lunghe.