Meta AI avviserà i genitori per le chat su suicidio e autolesionismo

Meta AI avviserà i genitori se gli adolescenti tenteranno di avere conversazioni con l’intelligenza artificiale a proposito di temi delicati come suicidio o autolesionismo. È una delle nuove misure di sicurezza introdotte dal gruppo con lo scopo di tutelare i minori. Lo strumento è simile a quanto già visto su Instagram e in ChatGPT. Il debutto è previsto fin da subito nei territori di Stati Uniti, Regno Unito, Canada e Australia, entro la fine dell’anno nel resto del mondo.

Nuove protezioni per adolescenti con Meta AI

Tra le altre nuove iniziative messe in campo con lo stesso obiettivo c’è la collaborazione con gli specialisti della salute. Il gruppo afferma di aver raccolto il feedback di oltre 75 specialisti, tenendone conto per migliorare il modo in cui la sua AI risponde ai prompt relativi a questi argomenti.

Ancora, è da segnalare l’estensione dell’impostazione Contenuti limitati alle esperienze con l’intelligenza artificiale. Vale a dire che, se un genitore sceglie per il proprio figlio adolescente la configurazione più restrittiva su Instagram, anche le interazioni con Meta AI rispetteranno maggiori limitazioni.

Nel comunicato stampa ricevuto in redazione c’è il commento della dr.ssa Ji-yeon Lee, psicologa abilitata e professoressa di psicologia della consulenza presso la Hankuk University of Foreign Studies. Elogia l’approccio adottato da Meta per analizzare la conversazione alla ricerca di segnali che possano far pensare a un pericolo.

Sono rimasta colpita dal rigore del processo di valutazione clinica adottato da Meta. L’analisi non si è limitata alle risposte immediate a contenuti legati a suicidio e autolesionismo, ma ha preso in considerazione anche il contesto più ampio della conversazione, l’appropriatezza delle risposte successive e i diversi livelli di rischio che possono emergere anche all’interno di situazioni ad alta criticità. Un processo di perfezionamento basato sull’esperienza clinica e su scenari concreti è fondamentale per rendere le esperienze con l’AI più sicure per gli adolescenti.