Chi attacca un sistema moderno di rado trova una porta spalancata. In genere deve scovare diverse vulnerabilità, capire come si collegano tra loro e sfruttarle nella sequenza giusta. Un lavoro complesso e meticoloso, che fino a oggi richiedeva team di ricerca altamente specializzati e costosi.
Claude può violare browser e sistemi operativi in pochi secondi
Il 27 ottobre Anthropic ha pubblicato un rapporto in cui sostiene di poter affidare questo compito all’AI. Il protagonista è un modello sperimentale di Claude, capace di trovare le vulnerabilità e di combinarle autonomamente, fino a mettere in ginocchio alcuni dei software più diffusi al mondo.
A tenere il banco di prova è stata la Frontier Red Team, la squadra interna che misura capacità e rischi dei modelli più avanzati dell’azienda. Per diversi mesi i ricercatori hanno messo l’AI davanti a software complessi, con una piattaforma che sguinzagliava molti agenti in parallelo. Qualcuno spulciava il codice, qualcuno cercava la strada per arrivare a dati protetti, qualcuno tentava di aggirare i divieti del programma. Per i software senza codice sorgente disponibile, il modello aveva anche strumenti di reverse engineering.
Quattro falle e una calcolatrice
Il risultato più spettacolare riguarda Chrome. Claude ha costruito una catena di quattro vulnerabilità. Le prime due corrompevano la memoria del motore JavaScript e davano il controllo del processo che disegna la pagina. Le altre due servivano a uscire dalla gabbia in cui il browser rinchiude tutto ciò che è pericoloso e a far eseguire codice sul computer vero e proprio.
Nei test, pochi secondi dopo l’apertura di una pagina web trappola, su un Mac si accendeva la Calcolatrice. L’utente non doveva fare altro.
E gli altri?
Con Safari e Android la posta in gioco era diversa. Gli attacchi hanno dato accesso a dati che dovrebbero restare blindati: informazioni appartenenti ad altri siti web nel primo caso, foto custodite in uno smartphone bloccato nel secondo.
Su Windows, una falla è bastata a far crollare un server a distanza. Su Linux il lavoro è stato più fine. Claude ha sfruttato la stessa vulnerabilità del kernel due volte, prima per capire come è disposta la memoria, poi per dirottare l’esecuzione. Il premio finale erano i comandi con privilegi di root su un server remoto vulnerabile, senza password e senza che la vittima muovesse un dito.
Anthropic ha segnalato a Google 62 vulnerabilità di Chrome, tutte critiche o di gravità alta. Tredici permettevano di evadere dalla sandbox, quella gabbia di cui sopra. Google le ha sistemate con Chrome 156 e ha riconosciuto il merito ai ricercatori dell’azienda, aiutati da Claude, per diverse di queste scoperte.
I rischi dell’AI usata per gli attacchi informatici
Per chi produce software, un exploit funzionante vale più di una segnalazione vaga. Mostra quanto può far male una falla e aiuta a decidere quali riparare per prime. Per questo Anthropic propone di far girare questo tipo di ricerca a ogni modifica del codice, in modo da beccare i difetti prima che arrivino sui computer degli utenti. Ha anche allargato l’accesso ai suoi modelli più potenti a un gruppo selezionato di professionisti della sicurezza, sperando di accelerare scoperte e correzioni.
Il problema è che se capacità simili finissero in mani sbagliate, potrebbero permettere di esplorare più software, di moltiplicare i tentativi e di accorciare il tempo tra la scoperta di una falla e l’attacco vero. Operazioni che oggi richiedono squadre altamente specializzate potrebbero diventare alla portata di gruppi con mezzi molto più modesti.
Per ora il modello non è disponibile al pubblico. Anthropic dice di aver ottenuto questi risultati partendo da poche istruzioni iniziali e con poco intervento umano, ma non spiega quanto abbiano davvero contribuito i ricercatori nei vari passaggi, e questo lascia un margine di incertezza. Gli exploit sono stati realizzati in laboratorio, le vulnerabilità descritte sono state tutte corrette e non risultano sfruttamenti malevoli.