ChatGPT: OpenAI sulla commemorazione del ragazzo suicida

Per comprendere a fondo le implicazioni di una vicenda dai risvolti umani ancor prima che legali, è necessario un breve riassunto di quanto accaduto. Nel mese di agosto, i genitori di Adam Raine, Matthew e Maria, hanno citato in giudizio OpenAI, in seguito il suicidio del figlio di soli 16 anni. L’adolescente californiano si è tolto la vita dopo aver conversato per mesi con ChatGPT delle sue intenzioni, aggirando qualsiasi filtro con un trucco piuttosto banale, fingendosi interessato a scrivere una storia di fantasia. Ora si registra la reazione della società.

Adam Raine: la causa tra OpenAI e la famiglia

Gli avvocati della famiglia hanno riferito al Financial Times che l’organizzazione guidata da Sam Altman ha richiesto l’elenco completo dei partecipanti alla commemorazione del ragazzo. L’ipotesi è che l’intento sia quello di citare in giudizio tutti coloro che hanno fatto parte del suo entourage. Sarebbero stati chiesti anche tutti i documenti relativi ai servizi commemorativi o agli eventi in onore del defunto, inclusi, a titolo esemplificativo ma non esaustivo, eventuali video o fotografie scattate, o elogi funebri pronunciati, nonché elenchi di inviti o presenze o libri degli ospiti. Una pratica definita insolita ed equiparata a una molestia intenzionale.

Cosa è cambiato da febbraio in poi

Dagli incartamenti della causa in corso è emerso che il volume delle conversazioni intrattenute da Adam con ChatGPT è passato da alcune dozzine nel mese di gennaio, l’1,6% delle quali contenenti linguaggio riferito a pratiche per infliggersi dolore, a circa 300 ogni giorno in aprile, il mese del suicidio, con la quota delle chat a sfondo autolesionista incrementata al 17%. Questo, secondo quanto sostenuto, avrebbe un legame diretto con l’allentamento delle restrizioni sul tema che sarebbe stato applicato a febbraio, per favorire le interazioni ed evitare che gli utenti abbandonassero il dialogo.

Nuove protezioni a tutela dei minori

In seguito alla vicenda e per rispondere al clamore mediatico suscitato, OpenAI ha introdotto nelle scorse settimane nuove protezioni per i minori. In chiusura, in forma tradotta, il commento alla causa legale.

Le nostre più sentite condoglianze vanno alla famiglia Raine per la loro immensa perdita. Il benessere degli adolescenti è una priorità assoluta per noi: i minori meritano una forte tutela, soprattutto nei momenti delicati. Oggi disponiamo di misure di sicurezza, come l’indirizzamento a linee di assistenza per le crisi, il reindirizzamento delle conversazioni delicate verso modelli più sicuri, la richiesta di pause durante le sessioni lunghe, e continuiamo a rafforzarle.