Anthropic non vuole il ban dei modelli open source

Dario Amodei (CEO di Anthropic) ha pubblicato un post sul sito ufficiale per smentire le notizie che circolano da alcuni giorni. Anche se non ha firmato la lettera aperta, l’azienda californiana non vuole il ban dei modelli open source cinesi, ma ritiene sbagliato vendere i chip AI alla Cina. Dovrebbe inoltre essere vietata la distillazione su larga scala. Il CEO suggerisce anche test di sicurezza obbligatori.

Anthropic descrive due scenari da incubo

Circa una settimana fa erano circolate indiscrezioni sul possibile ban dei modelli open source cinesi da parte del governo statunitense. Numerose aziende (al momento sono 132) ha firmato una lettera per sottolineare l’importanza dei modelli open source per startup, università e istituzioni pubbliche. Non c’è la firma di Anthropic, quindi sembrava che fosse favorevole al divieto, come riportato dal New York Times.

Amodei ha dichiarato che l’azienda non vuole il ban dei modelli open source, in quanto non costano nulla (a parte la potenza di calcolo necessaria per eseguirli) e apportano valore ad aziende, sviluppatori e ricercatori. Il CEO ha però evidenziato due scenari da incubo.

La Cina o altri governi autoritari possono usare i modelli a scopo militare o come strumento di repressione delle persone. Possono essere sfruttati anche per eseguire attacchi informatici e quelli open source sono più difficili da monitorare. L’opinione del CEO è quindi esattamente l’opposto di ciò che sostengono i firmatari della lettera.

Amodei suggerisce tre misure. I chip AI più potenti non dovrebbero essere esportati in Cina e si dovrebbe trovare anche un modo per bloccare il contrabbando. Le aziende statunitensi dovrebbero inoltre rilevare e chiudere gli account usati per effettuare la distillazione su scala industriale (Anthropic ha accusato Alibaba di aver sfruttato questa tecnica per addestrare il suo modello Qwen).

Il CEO suggerisce infine un controllo obbligatorio di tutti i modelli AI (open e closed) prima del rilascio pubblico per individuare eventuali rischi cyber e biologici. Ciò è utile però solo se il test è globale, quindi deve partecipare anche la Cina.

Il governo cinese ha comunicato che risponderà in maniera adeguata se verrà introdotto il ban. Intanto, Moonshot ha rilasciato i pesi del modello Kimi K3. Possono essere scaricati liberamente da Hugging Face.