Anche ByteDance ha sviluppato un LLM (Large Language Model), noto con il nome in codice Project Seed, che viene utilizzato per il chatbot Doubao in Cina. C’è solo un “piccolo” problema. L’addestramento è stato effettuato con GPT, il modello di OpenAI, violando i termini del servizio. Per questo motivo, l’account di ByteDance è stato sospeso.
Uso vietato delle API di GPT
ByteDance usa l’intelligenza artificiale per l’algoritmo dei suggerimenti del feed “Per te” di TikTok, ma è rimasta indietro nel settore dell’IA generativa. In base ai documenti interni, visti da Alex Heath di The Verge, l’azienda cinese ha utilizzato le API di GPT per l’addestramento e la valutazione di Project Seed. Ai dipendenti è stato chiesto di eliminare le “prove” attraverso la “desensibilizzazione dei dati”.
L’accesso al modello di OpenAI è stato effettuato tramite la piattaforma Azure, in particolare tramite Azure OpenAI Service, quindi ByteDance ha violato i termini di due servizi. Quelli di OpenAI vietano l’uso dell’output di GPT per sviluppare un modello di intelligenza artificiale concorrente.
Poco prima di ricevere l’approvazione per il rilascio del chatbot Doubao in Cina, ByteDance aveva ordinato di non usare più il testo generato da GPT. Tuttavia, le API vengono ancora utilizzate per valutare le prestazioni del chatbot, violando i termini dei servizio di OpenAI e Microsoft. Un portavoce di OpenAI ha confermato la sospensione dell’account di ByteDance:
Tutti i clienti delle API devono aderire alle nostre policy di utilizzo per garantire che la nostra tecnologia venga utilizzata correttamente. Anche se l’utilizzo della nostra API da parte di ByteDance è stato minimo, abbiamo sospeso il loro account mentre effettuiamo ulteriori indagini. Se scopriamo che il loro utilizzo non segue queste policy, chiederemo di apportare le modifiche necessarie o chiuderemo il loro account.
Non è noto se e quando Microsoft bloccherà l’accesso ad Azure OpenAI Service, considerata la violazione dei termini del servizio.
Ti potrebbe interessare
16 dic 2023