ChatGPT: OpenAI annuncia nuove protezioni per minori

OpenAI ha annunciato nuove protezioni per i minori che usano ChatGPT. Verranno in particolare ridotte le informazioni sulle armi, anche quando la richiesta sembra innocua. Previsti inoltre miglioramenti per la verifica dell’età e i controlli parentali. Questa è la risposta dell’azienda californiana alle denunce ricevute negli Stati Uniti e alle critiche di Common Sense Media sul funzionamento di ChatGPT for Teens.

Maggiori protezioni peri minori

OpenAI ribadisce che ChatGPT for Teens offre maggiori protezioni e limiti aggiuntivi per ridurre l’esposizione a contenuti sensibili (all’inizio del mese erano stati pubblicati alcuni dati positivi). L’azienda californiana ha ora deciso di limitare le informazioni sull’uso di armi e altri mezzi che potrebbero essere utilizzati in modo improprio, anche in assenza di segnali di intenti violenti.

OpenAI ha inoltre potenziato il sistema di verifica dell’età, in modo da valutare ulteriori segnali comportamentali durante l’uso di ChatGPT. Se il sistema stimata un’età inferiore a 18 anni, gli adolescenti verranno trasferiti nell’esperienza dedicata ai minori. In caso di errore è possibile confermare di essere maggiorenni tramite la procedura gestita da Persona.

OpenAI migliorerà infine i controlli parentali. I genitori riceveranno notifiche nel caso in cui l’account del figlio adolescente venga sospeso a causa di ripetute discussioni su temi legati alla violenza. Gli account dei genitori collegati a quelli dei figli ricevono inoltre avvisi di sicurezza quando i revisori dell’azienda individuano un serio rischio di autolesionismo o comportamenti potenzialmente associati a disturbi alimentari.

OpenAI rafforzerà anche le restrizioni per gli utenti maggiorenni. ChatGPT non fornisce istruzioni che possano aiutare qualcuno a pianificare o compiere atti di violenza. In futuro fornirà informazioni meno dettagliate su attacchi di massa avvenuti in passato e i loro autori. Lo scopo è in pratica bloccare eventuali emulazioni. All’inizio del 2027 verrà pubblicato il primo Community Safety Report che descriverà come vengono rilevati e bloccati i contenuti pericolosi.