Sei aziende cinesi copiano i modelli AI statunitensi

Anthropic ha descritto l’uso illecito dei suoi modelli Claude da parte di sette aziende cinesi. National Security Agency (NSA), Cybersecurity and Infrastructure Security Agency (CISA) e Federal Bureau of Investigation (FBI) hanno confermato l’attività di distillazione su scala industriale con un comunicato congiunto. Secondo Garry Tan (CEO di Y Combinator) è un problema secondario rispetto ad altri più importanti.

Distillazione illecita da quasi due anni

Le tre agenzie affermano che sei aziende cinesi di intelligenza artificiale estraggono sistematicamente funzionalità e capacità proprietarie dei modelli delle aziende statunitensi attraverso campagne di distillazione su scala industriale. La distillazione è una tecnica che permette di usare gli output dei modelli più grandi per addestrare modelli più piccoli.

Secondo NSA, CISA e FBI, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.ai hanno estratto miliardi di token dai modelli Claude, GPT, Gemini e Grok dalla fine del 2024. Tale attività su larga scala avviene con il supporto del governo cinese. L’obiettivo è ridurre il gap tecnologico e prestazionale dai modelli statunitensi, ottenendo anche un notevole risparmio di costi.

Dato che i modelli statunitensi non sono disponibili in Cina, le suddette aziende sfruttano diverse tecniche per aggirare le restrizioni, tra cui l’accesso tramite un mercato grigio di proxy API o stazioni di trasferimento che rivendono l’accesso ad un prezzo inferiore a quello ufficiale. Creano quindi migliaia di account rimuovendo le informazioni sul paese di origine (ad esempio indirizzo IP, metadati e altri identificatori).

La distillazione viene effettuata con sofisticate infrastrutture che permettono anche di eseguire i jailbreak dei modelli. Lo scopo è scoprire la loro catena di pensiero, ovvero le capacità di ragionamento. Le tre agenzie consigliano di migliorare i sistemi di rilevamento e le protezioni.

Un portavoce del Ministro degli Affari Esteri della Cina ha dichiarato che le accuse sono false e prive di fondamento, evidenziando che alcune aziende statunitensi effettuano la distillazione dei modelli cinesi. Garry Tan (CEO di Y Combinator) ritiene che il governo non dovrebbe fare nulla a riguardo. Ci sono altre priorità, come incentivare la diffusione dei modelli open source e risolvere i problemi di sicurezza.