Facebook, AI contro il suicidio

L'intelligenza artificiale scandaglierà i post degli utenti per individuare tempestivamente i possibili post che possano costituire indizi di possibili pensieri suicidi. Tranne in Europa per questioni di privacy
L'intelligenza artificiale scandaglierà i post degli utenti per individuare tempestivamente i possibili post che possano costituire indizi di possibili pensieri suicidi. Tranne in Europa per questioni di privacy

Facebook ha introdotto una nuova funzione che punta a individuare tempestivamente eventuali post di addio e altri contenuti che potrebbero significare che un utente sta pensando al suicidio , permettendogli di intervenire in maniera tempestiva.

Mentre in Italia i fatti di cronaca costringono a parlare nuovamente di suicidi legati alla diffusione online di contenuti strettamente privati (spesso accomunati sotto il cappello del cyberbullismo , per cui nei mesi scorsi ha mosso i primi passi una proposta di legge ad hoc), Facebook conferma di lavorare per i membri della sua community migliorando i contenuti e andando in loro soccorso in tempo reale: come ha spiegato Mark Zuckerberg con toni quasi evangelici questo avrà un costo, ma a contare di più è la community che non la singola trimestrale.

Sul fronte del cosiddetto revenge porn, peraltro, già ad Aprile Facebook aveva fatto esordire un’intelligenza artificiale con il compito specifico di intervenire tempestivamente sulle immagini intime di qualcuno: nei confronti dei post che potrebbero nascondere indizi di pensieri suicidi, tuttavia, l’AI non avrà un compito di censura, ma di vero e proprio aiuto.

Una volta individuati i post che rischiano di contrassegnare un pattern pericoloso per l’utente che li ha scritti, infatti, il nuovo sistema predisposto da Facebook li segnalerà ai moderatori umani che – senza dover attender la segnalazione di un utente – potranno valutare la possibilità di inviare risorse in aiuto della persona in difficoltà , che siano messaggi con offerte di supporto all’utente stesso o avvisi ai suoi amici, oppure procedere direttamente contattando possibili aiuti locali in grado di intervenire tempestivamente.


A tale scopo, Facebook sta peraltro dedicando ulteriori moderatori ai compiti di prevenzione al suicidio , addestrandoli ad avere a che fare con tali casi 24 su 24, 7 giorni su 7, anche in collaborazione con partner locali come Save.org e le associazioni National Suicide Prevention Lifeline e Forefront .

Tale tecnologia è stata per il momento sperimentata negli Stati Uniti, in particolare per cercare di affinare le sue capacità semantiche per cogliere i messaggi veicolati da parole e frasi specifiche.


Ora il suo utilizzo verrà esteso in tutto il mondo tranne l’Unione europea , dove la normativa sulla protezione dei dati personali rende troppo difficile accedere incondizionatamente ai post e soprattutto contattare eventualmente amici o altre persone di cui sarebbe necessario l’intervento. D’altra parte, anche alcuni osservatori statunitensi sottolineano i problemi di privacy legati a questa nuova tecnologa e al fatto che non sono apparentemente previsti sistemi di opt-out dal sistema.

Claudio Tamburrino

Link copiato negli appunti

Ti potrebbe interessare

Link copiato negli appunti