ChatGPT aveva previsto la sparatoria nella scuola canadese

Il 10 febbraio sono state uccise otto persone in una scuola di Tumbler Ridge in Canada. L’autrice della strage è Jesse Van Rootselaar (18 anni). Diversi mesi prima aveva svelato le sue intenzioni a ChatGPT. I sistemi di allarme del chatbot avevano segnalato il possibile pericolo, ma OpenAI non ha avvertito le forze dell’ordine. Per una volta che ChatGPT aveva fatto la scelta giusta (dopo le numerose denunce) non è stato ascoltato.

Perché OpenAI non ha segnalato nulla?

Circa otto mesi prima della sparatoria, Jesse Van Rootselaar aveva descritto scenari di violenza armata durante le conversazioni con ChatGPT. Il contenuto dei suoi messaggi era stato rilevato da un sistema automatizzato. Alcuni dipendenti di OpenAI aveva interpretato le parole della ragazza come un’indicazione di potenziale violenza nel mondo reale. Hanno quindi esortato i dirigenti ad avvisare le forze dell’ordine canadesi.

Le autorità locali non sono state avvisate. Il 10 febbraio 2026, Jesse ha ucciso otto persone e ferito altre 25 persone in un scuola di Tumbler Ridge, prima di suicidarsi. Una portavoce di OpenAI ha dichiarato che l’account di Van Rootselaar è stato bloccato, ma la sua attività non soddisfaceva i criteri per la segnalazione alle forze dell’ordine, in quanto non c’erano prove concrete di possibili gravi danni fisici per gli altri.

Altri aspetti della vita digitale di Van Rootselaar sono emersi nei giorni successivi alla strage. Aveva creato un gioco sulla piattaforma Roblox che simulava una sparatoria di massa. Sui social media ha invece condiviso le sue preoccupazioni sul processo di transizione (era nata maschio) e i suoi interessi per i cartoni animati e le droghe illecite.

Molti utenti condividono informazioni private con i chatbot, quindi non è semplice trovare un compromesso tra privacy e possibili conseguenze nel mondo reale. OpenAI ha dichiarato che i suoi modelli AI scoraggiano gli utenti dal commettere danni nella vita reale. Le conversazioni vengono indirizzare a revisori umani che possono segnalarle alle forze dell’ordine se rappresentano un rischio imminente di gravi danni fisici.