Una delegazione di Anthropic è arrivata a Washington per incontrare i funzionari della Casa Bianca e cercare di trovare una soluzione in merito al ban dei modelli Claude Mythos 5 e Fable 5. Intanto, la Commissione europea ha evidenziato le conseguenze negative del divieto generalizzato e la necessità di avere un’alternativa alle tecnologie AI delle aziende statunitensi.
Ban ingiustificato per errata valutazione
In base alle ultime indiscrezioni (non c’è nessuna conferma ufficiale), il Dipartimento del Commercio ha ordinato il ban dopo aver ricevuto una segnalazione da Amazon. I ricercatori dell’azienda di Seattle sono riusciti ad aggirare le protezioni di Claude Fable 5 e sfruttare il modello per trovare vulnerabilità in almeno quattro software.
Il governo statunitense ha chiesto di bloccare l’accesso a governi, aziende e individui stranieri sulla base delle norme sul controllo delle esportazioni. Anthropic ha eseguito l’ordine e revocato l’accesso a tutti gli utenti nel mondo. Il modello Claude Mythos Preview è invece ancora disponibile tramite il Project Glasswing.
L’azienda californiana ha evidenziato che le suddette vulnerabilità sono minori, già note e possono essere scoperte anche con altri modelli, tra cui GPT-5.5 di OpenAI. Non si tratta dunque di un jailbreak. Diversi ricercatori di sicurezza hanno inoltre sottolineato che Claude Fable 5 si rifiuta comunque di scrivere il codice degli exploit che possono essere utilizzati per attacchi informatici.
Dopo alcuni meeting virtuali, lo staff tecnico di Anthropic ha raggiunto Washington per discutere con i funzionari della Casa Bianca e spiegare che il divieto è stato imposto dopo un’errata valutazione del presunto jailbreak. La decisione del governo contrasta con l’uso di Claude Mythos da parte della NSA e il controllo facoltativo dei modelli.
Il ban è stato fortemente criticato dalla Commissione europea (che accede a Claude Mythos tramite l’ENISA). Il portavoce Thomas Regnier ha dichiarato:
Stiamo assistendo all’arrivo sul mercato di una nuova generazione di modelli di intelligenza artificiale altamente performanti. Questi modelli offrono vantaggi significativi, anche per la difesa informatica, ma sollevano anche serie preoccupazioni in materia di sicurezza informatica che devono essere affrontate. Riteniamo che le misure di emergenza adottate in quest’ottica non debbano essere discriminatorie nei confronti dei partner. Questo sviluppo è un’ulteriore dimostrazione del perché l’Europa debba rafforzare la propria sovranità tecnologica. Stiamo esaminando attentamente le conseguenze pratiche di ciò per gli utenti europei di questi servizi.
Viene quindi sottolineata l’importanza dei nuovi modelli come strumenti di difesa e contemporaneamente la dipendenza dell’Europa dalle aziende statunitensi. Quest’ultimo è un problema che potrebbe essere risolto con le iniziative presentate all’inizio del mese.