Anthropic ha comunicato che, a partire dal prossimo 14 agosto, la modalità automatica di Claude Code verrà attivata per impostazione predefinita (piani Pro, Max e Team). Ciò significa che gli sviluppatori non dovranno più approvare le richieste di permesso dell’agente AI. Questa scelta dell’azienda di San Francisco potrebbe avere conseguenze disastrose per la sicurezza con un aumento degli attacchi di prompt injection.
Anthropic si fida delle protezioni
La modalità automatica evita l’intervento continuo degli sviluppatori. In base ai dati rilevati da Anthropic, gli utenti approvano il 97% delle richieste di permesso, quindi ha deciso di attivarla per impostazione predefinita. L’azienda californiana è sicura che le protezioni implementate tramite i cosiddetti classificatori funzionino correttamente. Questi ultimi intervengono automaticamente se Claude Code tenta di eseguire azioni irreversibili, distruttive o dirette al di fuori dell’ambiente di lavoro.
Quando il classificatore blocca qualcosa, Claude di solito trova autonomamente un modo più sicuro per procedere oppure chiede l’autorizzazione. Se non riesce a fare progressi (tre blocchi consecutivi o venti in una sessione) viene ripristinata l’approvazione manuale.
In base a test effettuati internamente e da terze parti, la modalità automatica di Claude Code ha bloccato l’89% dei comandi pericolosi, mentre quella umana (manuale) solo il 13,6%. Secondo Simon Willison, programmatore britannico che ha inventato il termine “prompt injection”, ci sono due problemi che non sono stati risolti. Il primo è l’esecuzione di azioni accidentali da parte dell’agente AI, come la cancellazione di file e database. Anthropic afferma che la modalità manuale causa più danni di quella automatica.
Il secondo problema (più grave) è rappresentato dagli attacchi di prompt injection, ovvero l’esecuzione di istruzioni nascoste in documenti o pagine web che possono portare a truffe finanziarie, phishing o esfiltrazione di dati confidenziali. In base ai test effettuati da terze parti, nessuno dei 720 attacchi effettuati contro Fable 5, Opus 5 e Sonnet 5 ha avuto successo con la modalità automatica di Claude Code.
Secondo Willison dovrebbero essere eseguiti ulteriori test. Potrebbero esserci attacchi più sofisticati che aggirano le protezioni implementate da Anthropic. Nei prossimi mesi si scoprirà sicuramente la loro reale efficacia.