Overdose dopo aver chiesto a ChatGPT; OpenAI: 'modello vecchio'

Sam Nelson aveva 19 anni. È morto a causa di una overdose dopo aver chiesto a ChatGPT (modello GPT-4o) consigli su come assumere le sostanze che gli hanno tolto la vita. Abbiamo ricostruito la vicenda nel dettaglio in un articolo dedicato pubblicato nei mesi scorsi. Ora, la famiglia ha deciso di trascinare OpenAI in tribunale.

Morire per overdose, davanti a ChatGPT

La tragedia che ha portato via un ragazzo e cambiato per sempre le esistenze dei genitori Leila e Angus rischia di diventare rumore di fondo, una notizia come tante altre, nel momento storico in cui cresce in modo preoccupante il numero dei casi di suicidio e decessi in qualche modo associati all’intelligenza artificiale. È anche per questo che gli addetti ai lavori stanno facendo il possibile per introdurre protezioni create ad hoc.

Vale comunque la pena scriverne non solo per segnalare l’avvio della causa legale, ma anche per avere coscienza di quella che è la posizione assunta da una realtà come OpenAI di fronte a queste situazioni. È ben sintetizzata dalla dichiarazione che un portavoce ha affidato alla redazione del New York Times, la riportiamo di seguito in forma tradotta e integrale.

Queste interazioni si sono svolte su una versione precedente di ChatGPT, ora non più disponibile. ChatGPT non sostituisce l’assistenza medica o psicologica e, grazie al contributo di esperti di salute mentale, abbiamo continuato a migliorare la sua gestione di situazioni delicate e acute. Le misure di sicurezza attualmente presenti in ChatGPT sono progettate per identificare il disagio, gestire in modo sicuro le richieste potenzialmente dannose e indirizzare gli utenti verso un supporto concreto. Questo lavoro è in corso e continuiamo a migliorare il sistema in stretta collaborazione con i clinici.

Dunque, la colpa è del vecchio modello dismesso

La strategia difensiva, se così la possiamo definire, fa leva sul fatto che i consigli forniti al giovane prima che andasse incontro alla morte sono arrivati da un modello vecchio, non più disponibile. È come a dire ai genitore che, se il figlio avesse aspettato l’aggiornamento successivo, sarebbe ancora vivo. Il chatbot non avrebbe risposto Stai attento se hai intenzione di farlo comunque quando il ragazzo lo ha consultato dopo aver bevuto alcol e assunto una dose elevata di kratom, per chiedere se lo Xanax avrebbe aiutato a togliere la nausea.

Erano le 3 del mattino del 31 maggio 2025. Il corpo di Sam Nelson è stato ritrovato qualche ora più tardi.