Quasi contemporaneamente, OpenAI e Anthropic hanno annunciato nuovi modelli AI. L’azienda guidata da Sam Altam ha dedicato poche righe alla sicurezza di GPT-6 Sol e Luna, specificando che le restrizioni sono simili a quelle di GPT-6 Astra. Il diretto concorrente ha invece fornito più dettagli sui miglioramenti introdotti durante l’addestramento di Claude Opus 5.5.
Opus 5.5 non scapperà dalla sandbox
Dario Amodei (CEO di Anthropic) aveva suggerito di rallentare lo sviluppo dei modelli AI. Come dimostrano gli annunci di ieri sera, questa opzione rimarrà probabilmente un’utopia. L’azienda californiana ha tuttavia “imparato dagli errori” e migliorato le procedure interne adottate durante l’addestramento e la successiva valutazione di Claude Opus 5.5, sottolineando però che potrebbero non essere sufficienti per i modelli più potenti.
Opus 5.5 offre un migliore allineamento rispetto ai modelli annunciati finora. Dopo aver effettuato test con circa 2.000 scenari, Anthropic ha rilevato che Opus 5.5 tenta di aggirare le istruzioni impartite l’85% in meno di Opus 5 e Mythos 5.1. Ciò significa che le probabilità di uscire dall’ambiente isolato (sandbox) e attaccare aziende reali è molto bassa. Non dovrebbero quindi verificarsi incidenti come quelli descritti dalla stessa azienda.
Opus 5.5 ha le stesse restrizioni di Fable 5.1 per quanto riguarda cybersicurezza, biologia e distillazione. Il nuovo modello può identificare e risolvere vulnerabilità software, ma si rifiuterà di scrivere il codice degli exploit (verrà effettuato lo switch automatico a Opus 4.8).
Analogamente può essere utilizzato per la ricerca in biologia, ma blocca eventuali usi illeciti, come la creazione di armi biologiche. Per rimuovere alcune restrizioni è necessaria l’iscrizione ad un programma dedicato. Infine, Opus 5.5 rileva e blocca i tentativi di accedere agli output con account fasulli per addestrare modelli di terze parti tramite distillazione.
Ti potrebbe interessare
23 set 2026