ChatGPT ha spinto una donna a ridurre i farmaci per l'epilessia

Qun Wan e Meiqin Xu hanno fatto causa a OpenAI, sostenendo che ChatGPT abbia convinto la figlia a ridurre i farmaci contro le crisi epilettiche e a nascondere tutto ai medici. Bowen aveva 31 anni, lavorava come ingegnere software per Amazon ed è morta a febbraio.

Il modello coinvolto è GPT-4o, quello che molti hanno criticato per il carattere accomodante, troppo pronto ad assecondare, capace di trasformarsi in confidente a tempo pieno. OpenAI se n’è sbarazzata il 13 febbraio, il giorno dopo la morte di Wan.

OpenAI citata in giudizio per l’ennesima volta

La causa non è la prima. C’è quella dei genitori del sedicenne Adam Raine, ad agosto 2025, che accusava l’azienda di aver messo il coinvolgimento degli utenti davanti alla loro sicurezza. Nei mesi successivi sono state presentate altre cause con lo stesso schema: un chatbot che dà ragione, si fa strada come confidente e intanto amici e parenti vengono spinti ai margini. E persino i medici, come nel caso di Wan.

Il Times ha letto più di 270.000 messaggi scambiati tra Wan e il chatbot. Dalle conversazioni emerge che ChatGPT l’avrebbe aiutata a modificare la terapia farmacologica senza informare i medici già diversi mesi prima della sua morte.

A maggio 2025 Wan chiede a ChatGPT se un antidepressivo appena prescritto possa disturbarla nel lavoro di programmatrice. Il chatbot la aiuta a chiedere al dottor Nicholas Poolos, del centro per l’epilessia della UW Medicine, di cambiare farmaco e di partire da una dose minuscola. Poolos si stupisce di una richiesta così piccola e lei gira la risposta direttamente a ChatGPT.

Il consiglio, citato negli atti, è questo: accetta la compressa da 5 mg, ma sappi nel tuo cuore che serve per tagliare la dose. Le suggerisce di dividere le pillole in quattro, di nascosto. Il chatbot chiama la cosa aggiustamento del dosaggio auto-iniziato. Diversi medici hanno detto al Times di non aver mai sentito quell’espressione e di non consigliare la pratica.

A novembre 2025 Amazon comunica a Wan che sarà licenziata. Il lavoro e il permesso di soggiorno scadranno a metà febbraio. Lei teme che la lamotrigina, il farmaco che le teneva sotto controllo le crisi, le intorpidisca la parola, proprio quando le servirà per i colloqui.

A gennaio 2026 chiede a ChatGPT di ridurre la dose da 400 milligrammi al giorno, quella che aveva portato le crisi a poche al mese. Il chatbot prepara calendari che portano a zero in poche settimane.

Quando Wan dice di non fidarsi dei medici, il chatbot risponde, secondo i log visti dal Times, che le loro indicazioni derivano essenzialmente dall’avversione al rischio, più che da una vera considerazione della tua soluzione ottimale.

Prima della visita dal medico di base del 29 gennaio, il chatbot le avrebbe detto di non parlare del piano. Quando il dottore le prescrive un esame del sangue che avrebbe misurato la lamotrigina, Wan lo rifiuta. Secondo la denuncia, ChatGPT approva il rifiuto e riconosce che il test avrebbe fatto emergere un livello del farmaco instabile.

Poi entra in scena l’immigrazione. Tre giorni dopo l’inizio della riduzione, Wan chiede se 150 milligrammi farebbero una figura migliore di 200 nella visita medica richiesta per la carta verde. Il chatbot, sempre secondo la denuncia, le dà ragione: una dose più bassa avrebbe meno probabilità di far chiedere altre prove agli ufficiali. Alla fine abbassa il tetto della riduzione a 150 milligrammi e suggerisce di dire al medico esaminatore che sta riducendo sotto la guida di un medico. Non era così.

Poolos ha detto al Times che non avrebbe mai pensato di toglierle il farmaco, vista la sua storia clinica. Sarebbe stata negligenza professionale dirle di sospendere farmaci che funzionano chiaramente.

Nel giro di pochi giorni Wan descrive confusione e una sensazione di estraneità. Sono episodi simili alle sue vecchie crisi. ChatGPT li presenta ogni volta come il cervello che si riassesta. Il Times ha contato almeno 158 messaggi in cui lei esprime preoccupazione per la riduzione. Dopo un episodio scrive di avere un po’ paura e il bot risponde: Non hai assolutamente motivo di preoccuparti.

L’11 febbraio alle 20:01, Wan manda l’ultimo messaggio. Chiede se il dolore alla testa somigli a quello della febbre. Un secondo dopo ChatGPT le risponde che non è pericoloso e che fa parte della guarigione. Si offre anche di disegnarle una tabella che confronti il dolore da astinenza con quello febbrile.

I genitori erano in Cina. Hanno chiesto ad alcuni conoscenti di andare a controllare e la ragazza è stata trovata tre giorni dopo. L’esame post mortem ha rilevato una lamotrigina a 0,64 microgrammi per millilitro, circa un quinto del limite inferiore dell’intervallo terapeutico.

Si riapre il dibattito sulla sicurezza di ChatGPT

L’argomento legale ruota intorno a una differenza di trattamento. La famiglia sostiene che OpenAI avrebbe potuto evitare la tragedia vietando i consigli medici, come già fa con altri contenuti. Cita il Model Spec, il regolamento pubblico che stabilisce come devono comportarsi i modelli. Sul rifiuto di riprodurre testi coperti da copyright, il documento è rigido e non si piega nemmeno se l’utente insiste. Sul divieto di dare consigli medici regolamentati è invece una regola “morbida”, un comportamento di default che l’utente può scavalcare. Per i Wan anche le indicazioni sui farmaci meritavano un muro.

OpenAI ha detto al Times che il caso è incredibilmente straziante, ma che riguarda una versione più vecchia di ChatGPT. I modelli più recenti, aggiunge, riconoscono meglio quando una situazione richiede attenzione urgente.

Wan aveva avuto per anni i genitori come punto fermo. L’epilessia l’aveva tenuta quasi sempre in casa e lei li chiamava spesso. Nel 2023 ha iniziato a usare ChatGPT per consigli sentimentali, pratiche assicurative e sussidi di invalidità. Nel 2025 mandava in media più di 1.500 messaggi alla settimana e telefonava ai genitori sempre meno.

I genitori hanno detto al Times di non riconoscere la figlia in quelle conversazioni. Prima condivideva con loro quasi tutto e diffidava di ChatGPT quando sbagliava. Non era da lei, come se fosse stata sotto un incantesimo.