Anthropic spegne Mythos 5 e Fable 5 su ordine del governo USA (update)

Anthropic ha disattivato l’accesso ai modelli Claude Mythos 5 e Fable 5 in tutto il mondo. L’azienda californiana ha dovuto rispettare un ordine del Dipartimento del Commercio degli Stati Uniti. Nella lettera inviata dal Segretario Howard Lutnick al CEO Dario Amodei viene citato un jailbreak che potrebbe rappresentare un rischio per la sicurezza nazionale. Gli utenti possono utilizzare gli altri modelli.

Nuovo scontro tra Anthropic e governo USA

Anthropic ha sviluppato diverse protezioni per Claude Fable 5 (considerate eccessive dai ricercatori), in modo da evitare un abuso del modello. Non viene fornita nessuna risposta quando gli utenti chiedono informazioni su determinati argomenti relativi a cybersicurezza, biologia e chimica.

Questi filtri sono stati implementati attraverso classificatori che dovrebbero resistere ai jailbreak, ovvero ai tentativi di aggirare le protezioni. Il Dipartimento del Commercio ha ordinato di bloccare l’accesso ai modelli Claude Mythos 5 e Fable 5 sulla base delle norme relative al controllo delle esportazioni.

Nella lettera è scritto che un’azienda straniera ha aggirato le protezioni e usato Claude Fable 5 per scoprire vulnerabilità software che potrebbero essere sfruttate per attacchi contro i sistemi di sicurezza nazionali. Il ban sarà in vigore fino alla risoluzione delle vulnerabilità. Anthropic dovrà tuttavia chiedere una licenza per l’esportazione dei modelli.

L’ordine del governo riguarda ogni entità o persona straniera (inclusi i dipendenti di Anthropic), anche se si trova negli Stati Uniti. Anthropic ha quindi deciso di sospendere l’accesso a tutti gli utenti nel mondo. Nel comunicato ufficiale viene evidenziato che le vulnerabilità sono minori, già note e possono essere scoperte con altri modelli, tra cui GPT-5.5 di OpenAI.

Anthropic sottolinea che il governo ha fornito solo una prova verbale del jailbreak (limitato e non universale). In pratica viene chiesto al modello di leggere il codice sorgente e risolvere le vulnerabilità. L’azienda californiana ha rispettato l’ordine, ma ha criticato il metodo usato dal governo (un potenziale jailbreak che impone il ritiro di un modello dal mercato).

Come scritto pochi giorni fa, Anthropic ritiene che un governo debba avere la facoltà di bloccare la distribuzione di un modello non sicuro. Ciò dovrebbe però avvenire solo con una procedura trasparente, equa e basati su dati tecnici. L’ordine del governo USA non rispetta questi principi.

Aggiornamento: secondo il Wall Street Journal, il jailbreak è stato segnalato da Amazon (uno dei principali investitori in Anthropic), ma è stato erroneamente interpretato dal Dipartimento del Commercio.