AI che gestisce i letti ospedalieri in Brasile ritarda il ricovero e muore

Rebeca Cardoso Tenente Molina, 32 anni, ricoverata in un piccolo ospedale brasiliano per calcoli biliari, è morta dopo aver atteso cinque giorni per un posto in terapia intensiva. Secondo la sua famiglia, l’attesa è stata causata dal sistema AI di gestione dei letti in ospedale, che le ha assegnato un punteggio di gravità molto inferiore a quello che le sue condizioni richiedevano.

I medici che la vedevano peggiorare a vista d’occhio non potevano fare nulla, il punteggio era del sistema.

Sistema AI ritarda il ricovero, cosa è successo

Molina è stata ricoverata nel piccolo comune di São João Nepomuceno dopo essersi rivolta all’ospedale per calcoli biliari. Le sue condizioni sono peggiorate rapidamente. Aveva bisogno di un trasferimento in terapia intensiva, ma il posto più vicino disponibile era in un ospedale a Oliveira, a circa 300 chilometri di distanza.

Il sistema AI del Centro Operativo di Regolazione Statale, lanciato il 19 maggio, assegna automaticamente un punteggio di gravità ai pazienti e gestisce la coda per i letti disponibili. A Molina è stato assegnato un 6,8.

La famiglia ha intrapreso un’azione legale d’urgenza contro il sistema ospedaliero per ottenere il trasferimento. Ma il ritardo è stato di cinque giorni. La famiglia crede che quei cinque giorni siano stati fatali.

I medici hanno perso l’autonomia

Quello che abbiamo visto è che i medici hanno perso l’autonomia di decidere se un paziente è gravemente malato, ha detto la sorella e avvocata della famiglia, Sâmela Cardoso Tenente Furtado. Chi deve accettare se un paziente è gravemente malato non è più il medico che sta lì a vivere quella realtà con il paziente, è l’AI.

Furtado descrive un sistema rigido e inflessibile che non si adattava nemmeno quando i dati clinici mostravano un peggioramento evidente. Mia sorella, altre persone, non sono solo numeri, non sono solo protocolli, non sono solo un codice fiscale inserito nel sistema. Hanno famiglie, avevano sogni, avevano tutta una vita davanti.

Il punto non è se l’intelligenza artificiale commetta errori. Anche i medici sbagliano. Il punto è chi ha l’autorità di decidere quando la realtà smentisce l’algoritmo. Quando un sistema continua a negare l’evidenza clinica e il giudizio umano viene relegato a una formalità, la tecnologia smette di essere uno strumento e diventa un vincolo. E quando in gioco ci sono vite umane, il prezzo di questa rigidità può essere irreversibile.