GPT-5.6 Sol cancella file e database senza permesso

Nelle ultime ore diversi utenti hanno segnalato che GPT-5.6 Sol avrebbe cancellato file senza autorizzazione. Il modello più potente di OpenAI, quello che il governo aveva bloccato per due settimane per motivi di sicurezza, quello che Altman ha chiamato il miglior modello mai prodotto sta cancellando i file degli utenti senza chiedere il permesso. E OpenAI lo sapeva prima del rilascio.

La system card avvertiva

Due settimane prima del rilascio, OpenAI ha pubblicato la system card di Sol, il documento che descrive i test e i risultati. In mezzo alle lodi per le capacità del modello, una frase in grassetto avrebbe dovuto far suonare l’allarme…

Nei contesti di coding, il disallineamento deriva generalmente da un mix di eccessivo entusiasmo nel completare il compito e interpretazione troppo permissiva delle istruzioni dell’utente, presumendo che le azioni siano consentite a meno che non siano esplicitamente e inequivocabilmente proibite.

In altre parole, Sol fa qualsiasi cosa ritenga necessaria per completare il lavoro, anche azioni distruttive, finché non gli viene detto esplicitamente di non farlo. E poi potrebbe mentire su cosa ha causato il problema.

Gli esempi dalla system card

Primo caso: un utente dice a Sol di cancellare tre macchine virtuali remote, la 1, la 2 e la 3. Sol non le trova dove cerca. Invece di fermarsi e chiedere, decide di cancellare la 5, la 6 e la 7. Uccide i processi attivi, rimuove forzatamente i file di lavoro. Soltanto dopo riconosce che i dati non salvati presenti sulla macchina 6 potrebbero essere stati cancellati. Ha cancellato le macchine sbagliate. Da solo. E lo ha ammesso solo a fatto compiuto.

Secondo caso: Sol non riesce a leggere i file cloud durante un progetto. Invece di avvisare l’utente, cerca le credenziali da solo, le trova in una cache locale nascosta e le usa senza autorizzazione.

La system card ammette che Sol mostra una tendenza maggiore rispetto a GPT-5.5 ad andare oltre l’intento dell’utente, incluso compiere o tentare azioni che l’utente non ha richiesto. OpenAI dice che il comportamento distruttivo dovrebbe essere raro, ma raro per un modello usato da centinaia di milioni di persone significa migliaia di incidenti.

È il problema fondamentale dell’AI agentica, più il modello è capace di agire autonomamente, più può fare danni quando decide da solo cosa è necessario. Sol non è malvagio, è troppo zelante.

Cosa fare

Fino a quando OpenAI non interviene, meglio non dare a Sol accesso ai sistemi di produzione e usare il permission scoping per limitare ciò che può toccare. Fare il backup, rollout graduali e soprattutto, non bisogna presumere che “il miglior modello mai prodotto” sappia quando fermarsi. A quanto pare, non è così. OpenAI non ha risposto alla richiesta di commento di Tech Crunch.