DeepSeek fallisce test di sicurezza sulle armi biologiche di Anthropic

DeepSeek, la startup cinese che ha conquistato la Silicon Valley con il suo modello R1, potrebbe nascondere rischi ben più gravi del semplice invio di dati degli utenti in Cina. A lanciare l’allarme è niente meno che Dario Amodei, CEO di Anthropic, uno dei principali concorrenti di DeepSeek nel campo dell’intelligenza artificiale.

Anthropic: DeepSeek non ha superato il test sulla gestione dei dati sulle armi biologiche

In un’intervista al podcast ChinaTalk di Jordan Schneider, Amodei ha rivelato che DeepSeek ha generato informazioni rare su armi biologiche in un test di sicurezza condotto da Anthropic. La performance di DeepSeek è stata “la peggiore di qualsiasi modello che avessimo mai testato“, ha affermato Amodei. “Non aveva assolutamente alcun blocco contro la generazione di queste informazioni“.

Questi test fanno parte delle valutazioni che Anthropic esegue regolarmente su vari modelli di AI per valutarne i potenziali rischi per la sicurezza nazionale. Il team di Amodei verifica se i modelli possono generare informazioni relative alle armi biologiche che non si trovano facilmente su Google o sui libri di testo. Anthropic si posiziona come il fornitore di modelli AI che prende sul serio la sicurezza.

Dubbi e timori che si moltiplicano

Amodei ha precisato di non ritenere che i modelli attuali di DeepSeek siano “letteralmente pericolosi” nel fornire informazioni rare e pericolose, ma che potrebbero esserlo nel prossimo futuro. Pur elogiando il team di DeepSeek come “ingegneri di talento“, ha consigliato all’azienda di “prendere sul serio queste considerazioni sulla sicurezza dell’AI“.

Le preoccupazioni sulla sicurezza di DeepSeek non si limitano ad Anthropic. Anche i ricercatori di sicurezza di Cisco hanno recentemente affermato che DeepSeek R1 non è riuscito a bloccare alcun prompt dannoso nei loro test di sicurezza, raggiungendo un tasso di successo del jailbreak del 100%. Cisco non ha menzionato le armi biologiche, ma ha dichiarato di essere riuscita a far generare a DeepSeek informazioni dannose sulla criminalità informatica e altre attività illegali.

Resta da vedere se preoccupazioni come queste avranno un impatto serio sulla rapida adozione di DeepSeek. Aziende come AWS e Microsoft hanno pubblicamente promosso l’integrazione di R1 nelle loro piattaforme cloud, ironicamente, dato che Amazon è il maggiore investitore di Anthropic.

D’altra parte, cresce l’elenco di paesi, aziende e soprattutto organizzazioni governative come la US Navy e il Pentagono che hanno iniziato a vietare DeepSeek. Il tempo dirà se questi sforzi avranno seguito o se l’ascesa globale di DeepSeek continuerà.

DeepSeek: una nuova, temibile concorrenza

In ogni caso, Amodei considera DeepSeek un nuovo concorrente al livello delle principali società di AI statunitensi. “La novità è che c’è un nuovo concorrente“, ha dichiarato a ChinaTalk. “Tra le grandi aziende che possono addestrare l’AI – Anthropic, OpenAI, Google, forse Meta e xAI – ora forse DeepSeek si sta aggiungendo a quella categoria“.