Claude usato per sviluppare armi, sorveglianza e truffe

Anthropic ha pubblicato un lunghissimo report che elenca tutti gli usi illeciti di Claude (Haiku, Sonnet e Opus) rilevati e bloccati tra dicembre 2025 e agosto 2026. L’azienda californiana ha descritto in dettaglio i singoli casi, suddividendoli in sette categorie: attacchi informatici, sorveglianza, operazione di influenza, armi convenzionali, armi biologiche, truffe e distillazione illecita. I modelli più recenti hanno maggiori protezioni per impedire tali abusi.

Claude usato per attacchi informatici

L’uso più frequente dei modelli di Anthropic è ovviamente per pianificare o effettuare attacchi informatici. I tool AI sono ormai accessibili a tutti, quindi sono servono più competenze avanzate. Le varie attività sono ulteriormente facilitate dagli agenti AI che possono eseguire molte azioni in autonomia, senza intervento umano.

Anthropic ha descritto vari attacchi, uno dei quali eseguito dal gruppo russo Midnight Blizzard a scopo di spionaggio. I cybercriminali hanno usato Claude in tutte le fasi: raccolta delle informazioni, accesso iniziale, esfiltrazione dei dati e persistenza. Hanno sfruttato gli agenti AI per monitorare la capacità del malware di aggirare le difese dei sistemi target. In caso di insuccesso, gli agenti avviavano la modifica del malware per eludere i sistemi di rilevamento.

Claude usato per operazioni di sorveglianza

Anthropic ha descritto diversi usi illeciti di Claude per operazioni di sorveglianza da parte di cybercriminali legati a Cina e Iran. I modelli AI sono stati utilizzati per sviluppare tool di spionaggio e per identificare i bersagli attraverso l’analisi dei post pubblicati sui social media.

Claude usato per operazioni di influenza

Questo è un altro uso illecito molto diffuso di Claude. In diversi paesi, tra cui Russia, Turchia e Iran, sono state attuate operazioni di influenza, ovvero la manipolazione delle informazioni per ingannare i cittadini. Queste attività sono state eseguite principalmente in occasione delle elezioni. I modelli sono stati utilizzati per creare siti o falsi account sui social media e diffondere fake news.

Claude usato per sviluppare armi convenzionali

Anthropic ha descritto sei casi in cui Claude è stato utilizzato per lo sviluppo di armi convenzionali. I modelli sono stati usati per scrivere software di guida dei missili, il controllo remoto di droni e la guerra elettronica (rilevazione e soppressione delle comunicazioni radio). Claude è stato usato anche per raccogliere informazioni su un programma di armamenti straniero e sulla relativa catena di approvvigionamento.

Claude usato per sviluppare armi biologiche

Anthropic ha descritto cinque casi relativi allo sviluppo di armi biologiche. Uno di essi riguarda una ricerca sul virus chikungunya. L’uso di Claude sembrava apparentemente legittimo (lo sviluppo di vaccini e terapie più efficaci), ma Anthropic ha scoperto che la ricerca era stata finanziata da un istituto militare. Altri utenti hanno usato Claude per creare varianti dell’influenza aviaria per i mammiferi, orthopoxvirus, veleni e tossine.

Claude usato per truffe

Anthropic ha descritto un solo caso di utilizzo per truffe. Un gruppo di cybercriminali cinesi ha usato Claude per scrivere il codice di oltre 20 app di dating e per generare una persona AI che conversava con le ignare vittime. Lo scopo era convincere gli utenti ad effettuare pagamenti in-app.

Claude usato per distillazione illecita

L’ultima categoria è quella della distillazione illecita, ovvero l’uso delle risposte di un modello per addestrare un altro modello. Ciò avviene creando una rete di account fasulli con chiavi API, credenziali di login e carte di credito rubate. Anthropic ha individuato distillazioni non autorizzate da parte di aziende cinesi: Alibaba, Moonshot, Xiaomi, Z.ai, DeepSeek, Sensetime e MiniMax.