OpenAI ha violato la privacy degli utenti in Canada

Il Privacy Commissioner del Canada e gli omologhi provinciali di Quebec, British Columbia e Alberta hanno confermato la violazione della privacy degli utenti da parte di OpenAI. È il risultato dell’indagine avviata circa tre anni fa. L’azienda californiana è stata accusata di aver raccolto un numero eccessivo di informazioni personali senza il consenso degli utenti. Ha tuttavia già implementato alcune misure correttive.

Violazioni e rimedi di OpenAI

Durante l’indagine sono stati esaminati i modelli GPT-3.5 e GPT-4 rilasciati a fine 2022 e inizio 2023. Le autorità hanno rilevato cinque violazioni principali del Personal Information Protection and Electronic Documents Act (PIPEDA) e delle analoghe leggi delle tre province. Riguardano la raccolta e l’uso delle informazioni personali durante l’addestramento dei modelli:

• Raccolta eccessiva di informazioni personali: OpenAI ha raccolto enormi quantità di dati personali senza adeguate misure di sicurezza per impedirne l’utilizzo nell’addestramento dei suoi modelli
• Mancanza di consenso valido e trasparenza: OpenAI non ha ottenuto un consenso valido per la raccolta di informazioni personali. Molti utenti non erano consapevoli che i loro dati venissero raccolti e utilizzati per addestrare ChatGPT
• Inesattezze fattuali e allucinazioni: OpenAI ha fornito notifiche insufficienti su potenziali inesattezze nelle risposte di ChatGPT
• Accesso, correzione ed eliminazione: OpenAI non ha fornito a tutti gli utenti un meccanismo facilmente accessibile ed efficace per accedere, correggere ed eliminare le proprie informazioni personali
• Mancanza di responsabilità: OpenAI ha rilasciato ChatGPT senza aver affrontato appieno i rischi noti per la privacy e senza aver stabilito regole per la cancellazione dei dati

OpenAI ha ritirato i suddetti modelli e implementato misure correttive con i modelli successivi, tra cui un filtro per rilevare e mascherare le informazioni personali. Nei prossimi mesi verranno aggiunti altri miglioramenti, come l’avviso che le conversazioni possono essere usate per l’addestramento dei modelli e un tool più semplice per esportare i dati. L’indagine è stata chiusa, ma verrà monitorato il rispetto degli impegni.