OpenAI ha individuato e interrotto una campagna coordinata progettata per estrarre informazioni protette dai suoi modelli. Si tratta della cosiddetta distillazione non autorizzata, ovvero l’uso degli output o della catena di ragionamento per addestrare e migliorare altri modelli. Tale attività sarebbe stata eseguita da Moonshot AI, azienda cinese che sviluppa il modello Kimi.
Distillazione iniziata nella prima settimana di luglio
I modelli AI delle aziende statunitensi sono ancora i migliori sul mercato. Le aziende cinesi hanno però ridotto il gap con i recenti modelli. Essendo open source sono accessibili gratuitamente a tutti, quindi rappresentano un “pericolo” per le aziende che investono miliardi di dollari all’anno. Secondo NSA, CISA e FBI, sei aziende cinesi effettuano la distillazione illecita da quasi due anni. Ciò spiegherebbe l’incremento delle prestazioni.
OpenAI ha rilevato la distillazione non autorizzata all’inizio di luglio. Gli autori non hanno violato la crittografia, compromesso un database né ottenuto accesso diretto alle conversazioni degli utenti. Hanno invece manipolato le interazioni con il modello in modo tale da far emergere processi di ragionamento protetti, rendendoli visibili a chi effettuava la richiesta. Tale attività è stata condotta in modo coordinato e su larga scala, violando i termini di servizio.
Una delle tecniche utilizzate prevedeva la copia dei ragionamenti cifrati da una conversazione e la richiesta al modello in un’altra conversazione di decifrare e trascrivere il contenuto nascosto. L’attività è iniziata il 1 luglio con volumi ridotti. Il 24 e 25 luglio è stato rilevato un picco di traffico (oltre 16.000 richieste) riconducibili ad un preciso schema di estrazione e proveniente da oltre 4.000 utenti. Ulteriori indagini hanno individuato un’attività correlata basata su schemi di prompt simili all’interno di un gruppo di oltre 15.000 utenti. L’attività è stata completamente bloccata entro il 28 luglio.
OpenAI non può confermare se la distillazione è stata effettuata da un singolo autore. Tuttavia, il numero maggiore di richieste è arrivato da individui associati a Moonshot AI, azienda cinese che sviluppa il modello Kimi. L’azienda californiana ha chiuso tutti gli account, rafforzato i controlli di login e migliorato le protezioni per impedire l’accesso ai dati di ragionamento.
OpenAI sottolinea che la distillazione non autorizzata può diventare anche un rischio per la sicurezza nazionale. L’estrazione dei dati di ragionamento permettono di addestrare altri modelli rimuovendo le restrizioni originarie. Quindi è possibile sfruttare le capacità “rubate” per eseguire azioni pericolose, come la scrittura di codice per gli attacchi informatici.
Ti potrebbe interessare
1 ott 2026