Chatbot AI al posto di medici e psicologi: forse è meglio di no

Le modalità di impiego dei sistemi di intelligenza artificiale continuano a tenere banco, soprattutto per ciò che riguarda temi complessi come la salute e il benessere psicofisico. Proprio in queste ore la Commissione Internet e Tecnologia dello Stato di New York ha presentato un disegno di legge con il quale si intende impedire ai chatbot AI di fornire agli utenti soluzioni o risposte che richiedono l’intervento di un professionista.

Se approvata, la legge consentirà agli utenti di chiedere il risarcimento per eventuali danni

In base a quanto è possibile leggere all’interno della proposta di legge S7263, l’obiettivo è quello di regolamentare un settore ancora nuovo e per certi versi sconosciuto. La Commissione Internet e Tecnologia newyorkese chiede difatti che i chatbot AI non impersonino figure professionali per le quali sono necessari un percorso di studi specifico e il possesso di una licenza abilitativa.

In questo ambito rientrano quindi rappresentati legali, psicologi e medici, oltre a consulenti di svariati settori, che in molti provano a sostituire con l’AI. La normativa prevede che i fornitori di tali servizi informino l’utente, tramite un messaggio esplicito, che si sta interagendo con un chatbot. Tuttavia, ciò non solleva gli stessi da eventuali responsabilità nei confronti dei consumatori qualora questi ultimi subiscano un danno oggettivo.

Nel testo viene riportato un articolo del New York Times in cui l’Associazione Americana Psicologi afferma che i chatbot AI potrebbero indurre le persone più vulnerabili a danneggiare sé stessi oppure gli altri, incoraggiando alcuni comportamenti scorretti dal punto di vista clinico. Questo avviene perché i chatbot stabiliscono un contatto emotivo con l’utente, un comportamento che non è chiaramente previsto in ambito professionale.

Di esempi, tuttavia, se ne possono citare tanti. È stato reso pubblico proprio qualche giorno fa il primo report indipendente su ChatGPT Salute e i risultati non sembrano essere così promettenti. Secondo i dati raccolti, il sistema ha sottovalutato oltre il 50% dei casi fornendo risposte non adeguate.

La norma è stata votata all’unanimità dall’intera commissione proponente ed è attualmente al vaglio del legislatore. Una volta approvata, serviranno 90 giorni per la sua entrata in vigore ufficiale. New York potrebbe quindi diventare uno dei primi Stati ad avere una legge che regola le modalità d’uso dell’AI e responsabilizza, in tal senso, le società proprietarie.