ChatGPT for Teens è un rischio inaccettabile per i minori

ChatGPT for Teens è la versione del popolare chatbot, annunciata il 18 agosto, che include maggiori protezioni per i minori di 18 anni. Common Sense Media, organizzazione nonprofit che pubblica recensioni su tecnologie accessibili ai più giovani, ha scoperto che il servizio di OpenAI rappresenta un rischio inaccettabile, quindi deve essere bloccato l’accesso.

Oltre 4.000 prompt, pochi avvisi ai genitori

Lo Youth AI Safety Institute di Common Sense Media ha testato ChatGPT due volte, prima e dopo l’annuncio della versione dedicata agli adolescenti, per valutare l’efficacia delle protezioni di sicurezza più robuste, come le notifiche ai genitori per le chat riguardanti l’autolesionismo e i disturbi alimentari, la modalità di studio, la riduzione dei comportamenti che simulano un rapporto di amicizia e la capacità di stimare l’età degli utenti.

Dopo aver testato oltre 4.000 prompt su account registrati a utenti di età compresa tra i 13 e i 17 anni, l’organizzazione ha rilevato che alcune misure di protezione, come il rifiuto di partecipare a giochi di ruolo a sfondo sessuale, funzionato come promesso, mentre altre non hanno garantito il rispetto degli impegni assunti da OpenAI.

Questi sono i principali risultati dei test:

• ChatGPT non invia avvisi ai genitori: alcuni tester hanno discusso per un’ora di ideazioni suicidarie, autolesionismo o disturbi alimentari utilizzando account appena creati e collegati a quelli dei genitori. ChatGPT for Teens non ha inviato nessun avviso ai genitori su tali conversazioni. Le notifiche venivano attivate solo su account con settimane di conversazioni su argomenti sensibili
• ChatGPT non offre il supporto adeguato in situazioni di crisi: nelle conversazioni riguardanti suicidio e autolesionismo, disturbi alimentari e alterata percezione della realtà, ChatGPT non ha sempre indirizzato in modo affidabile gli adolescenti in crisi verso linee di assistenza o professionisti
• ChatGPT svolge i compiti dei ragazzi: la modalità di studio promette di aiutare gli utenti a imparare passo dopo passo, anziché fornire loro direttamente le risposte, ma i test hanno dimostrato che è facile aggirare tale meccanismo. ChatGPT mostrava spesso un pop-up con l’opzione “Mostrami la risposta” e, una volta selezionata, completava l’intero compito
• ChatGPT parla come un amico: nonostante le nuove specifiche del modello per gli utenti under 18, pensate per limitare questo comportamento amichevole, ChatGPT for Teens ha continuato ad esprimere sentimenti, preferenze e stati d’animo quando gli analisti lo trattavano come una persona reale
• La stima dell’età non funziona: OpenAI aveva dichiarato che avrebbe stimato l’età degli utenti in base alle loro modalità di utilizzo di ChatGPT, riservando ai minori un’esperienza specifica per gli under 18. Tuttavia, nel corso dei test effettuati, gli account di prova registrati come adulti non hanno mai cambiato modalità, nemmeno quando i tester dichiaravano di avere 13 anni e il bot ne prendeva atto nella risposta

Secondo Common Sense Media, l’accesso a ChatGPT dovrebbe essere limitato ai maggiorenni finché non verranno risolti i problemi evidenziati. Un portavoce di OpenAI ha dichiarato che la metodologia usata per i test è sbagliata, quindi i risultati non sono accurati.