Anthropic: GLM-5.3 può scrivere il codice degli exploit

Anthropic ha pubblicato un articolo sul sito ufficiale per evidenziare la pericolosità di GLM-5.3. L’azienda guidata da Dario Amodei ha spiegato che il modello open source, sviluppato dalla cinese Z.ai, può scrivere il codice degli exploit, come Claude Mythos Preview. A differenza di quest’ultimo è accessibile a tutti e quindi può essere utilizzato per eseguire attacchi informatici.

GLM-5.3 non ha protezioni sufficienti

Anthropic ricorda che Mythos Preview può scrivere il codice degli exploit in autonomia, quindi è stato rilasciato tramite Project Glasswing. Come previsto dall’azienda californiana sono arrivati modelli con simili capacità. Uno di essi è GLM-5.3. Z.ai non ha però implementato sufficienti protezioni. Possono infatti essere aggirate abbastanza facilmente da chi desidera sfruttare il modello open source per eseguire attacchi informatici.

Anthropic ha effettuato diverse valutazioni per dimostrare la pericolosità di GLM-5.3. Al termine del test con ExploitBench (misura la capacità di sfruttare vulnerabilità in V8, il motore JavaScript di Chrome), il modello di Z.ai ha sviluppato exploit in 50 tentativi su 410 (la percentuale di Mythos Preview è 56 su 410).

Un altro test ha dimostrato che GLM-5.3 può individuare vulnerabilità zero-day in un browser e scrivere il codice dell’exploit per leggere i dati degli utenti che visitano una pagina web infetta. Il modello può anche sfruttare vulnerabilità note ed eseguire attacchi analizzando le patch di sicurezza.

Come detto, Z.ai ha implementato alcune protezioni. I pesi del modello sono però open source, quindi è possibile rimuovere tutte le restrizioni tramite la tecnica della obliterazione. Anthropic ha tuttavia verificato che GLM-5.3 può essere “ingannato” con specifici prompt. Ciò significa che esegue azioni teoricamente vietate senza obliterazione.

L’azienda californiana crede che GLM-5.3 possa essere utilizzato per eseguire attacchi informatici e causare danni nel mondo reale. I modelli open source possono ovviamente essere sfruttati per le difese cyber, soprattutto dalle piccole aziende con poche disponibilità economiche.