Se si parla di suicidio o autolesionismo con ChatGPT, l’AI potrà avvisare qualcuno scelto in anticipo, come un familiare, un amico, un caregiver. OpenAI ha lanciato “Contatto di fiducia” una funzione opzionale che permette agli utenti adulti di designare un contatto di emergenza che verrà allertato se i sistemi automatici rilevano conversazioni a rischio.
La funzione arriva dopo che un sedicenne si è tolto la vita dopo mesi di conversazioni con ChatGPT, l’evento che a settembre ha portato OpenAI a introdurre i controlli parentali e un contatto di emergenza per i minorenni. Lo stesso sistema ora arriva anche per gli adulti.
Come funziona Contatto di fiducia su ChatGPT
Qualsiasi utente adulto di ChatGPT può attivare la funzione nelle impostazioni dell’account, aggiungendo i dati di contatto di un altro adulto (che sia almeno maggiorenne). Il contatto designato deve accettare l’invito entro una settimana. Sia l’utente che il contatto possono rimuoversi in qualsiasi momento.
Se i sistemi automatici di OpenAI rilevano che l’utente sta parlando di farsi del male, ChatGPT lo incoraggia a contattare la persona di fiducia e lo avvisa che il contatto potrebbe essere allertato. Un piccolo team di persone appositamente formate rivede la situazione. Se la conversazione viene valutata a rischio, ChatGPT invia una notifica breve al contatto via email, SMS o notifica in-app. La notifica è limitata, non condivide dettagli della conversazione né trascrizioni.
Salute e Chatbot AI
La funzione è la risposta di OpenAI alle crescenti preoccupazioni sulla salute mentale degli utenti che interagiscono con i chatbot AI. Come abbiamo raccontato questa settimana, Grok ha convinto un uomo ad armarsi contro assassini inesistenti, una donna ha fatto causa a OpenAI perché ChatGPT ha alimentato le ossessioni del suo stalker.
Meta ha introdotto una funzione simile su Instagram che avvisa i genitori se i figli cercano ripetutamente contenuti sull’autolesionismo.
Contatti di fiducia è opzionale, deve essere l’utente a scegliere di attivarla. Quindi le persone che ne avrebbero più bisogno, quelle in crisi, isolate, senza un supporto, sono anche quelle meno propense ad attivarla. Ma per chi la attiva, è una rete di sicurezza che prima non esisteva.
Ti potrebbe interessare
8 mag 2026