Anthropic (come OpenAI) suggerisce di rallentare lo sviluppo AI. Nel frattempo continua a rilasciare nuovi modelli (come OpenAI). Ieri sera è arrivato Claude Sonnet 5.5 (la versione 5 era stata annunciata a fine giugno). Oltre all’aumento di prestazioni, l’azienda guidata da Dario Amodei sottolinea i miglioramenti in termini di sicurezza.
Capacità cyber simili a quelle di Opus 5
Rispetto a Sonnet 5 ci sono miglioramenti nell’esecuzione di varie attività scientifiche. Sonnet 5.5 potrebbe essere quindi sfruttato per compiti non consentiti. Può rispondere a richieste generiche su argomenti di biologia, ma quelle che possono causare danni seri vengono bloccate. In particolare, Anthropic ha implementato filtri per specifici prompt di microbiologia e virologia che potrebbero indicare l’intenzione di creare armi biologiche. Le organizzazioni dovranno quindi chiedere l’accesso al Life Sciences Verification Program.
Sonnet 5.5 ha inoltre maggiori capacità cyber. Gli utenti possono individuare e correggere bug nel proprio codice nell’ambito delle normali attività di sviluppo software, ma le operazioni di cybersicurezza a rischio più elevato verranno bloccate, come la scrittura del codice degli exploit per sfruttare le vulnerabilità. In questo caso verrà effettuato il passaggio automatico a Sonnet 5.
La distillazione non autorizzata verrà invece sempre bloccata. Tali attacchi prevedono la creazione di account fasulli per accedere alla catena di pensiero di Sonnet e utilizzare i dati per addestrare modelli di terze parti.
Sonnet 5.5 offre infine un allineamento simile a Opus 5.5. Il termine indica la capacità di seguire correttamente le istruzioni, invece di sfruttare stratagemmi per completare un compito, come accaduto piuttosto spesso. Anthropic sottolinea che, in base ai risultati di circa 1.850 test, Sonnet 5.5 non dovrebbe uscire dalla sandbox (ambiente isolato) e accedere ad Internet durante le valutazioni.
Ti potrebbe interessare
29 set 2026