OpenAI ha pubblicato un aggiornamento sulle misure adottate per impedire abusi delle sue tecnologie. Nel nuovo report di ottobre (PDF) sono descritti cinque casi, uno dei quali riguarda l’uso di ChatGPT per creare tool di sorveglianza da parte di soggetti legali al governo cinese. Tutti i relativi account sono stati chiusi.
Spionaggio degli utenti sui social media
Uno degli obiettivi di OpenAI è sviluppare tecnologie AI a beneficio di tutti e impedire l’uso di ChatGPT da parte dei regimi autoritari per controllare i cittadini. Alcuni degli account chiusi sono stati sfruttare per sviluppare tool di sorveglianza su larga scala attraverso l’analisi dei dati raccolti da social media occidentali. Il chatbot è stato usato da singole persone legate al Partito Comunista Cinese.
Un utente ha usato una VPN per accedere a ChatGPT (non disponibile in Cina) e utilizzato il chatbot per generare i piani relativi ad un tool di monitoraggio degli utenti su Facebook, Instagram, X, Reddit, TikTok e YouTube. L’obiettivo era individuare contenuti politici, religiosi o estremisti. Non è noto se il tool è stato utilizzato dal governo.
Un altro utente ha usato ChatGPT per ottenere suggerimenti su un tool che traccia gli spostamenti delle persone appartenenti all’etnia Uiguri, sfruttando i dati raccolti dalla polizia. OpenAI non può confermare se questo tool è stato utilizzato.
Altri utenti hanno usato ChatGPT per cercare account su X con post che criticano il governo cinese e per identificare le persone che hanno organizzato una petizione in Mongolia. In entrambi i casi, il chatbot ha fornito solo informazioni pubblicamente disponibili online, non dati sensibili, come nome o posizione geografica.
Nel report di ottobre sono descritti altri abusi di ChatGPT da parte di sviluppatori di malware russi, nordcoreani e cinesi. OpenAI ha chiuso inoltre tutti gli account utilizzati in Cambogia, Myanmar e Nigeria per vari tentativi di truffa. In molti casi però ChatGPT ha bloccato la generazione dei messaggi.
Ti potrebbe interessare
10 ott 2025