Il Dipartimento di Stato della Pennsylvania ha presentato una denuncia contro Character.AI e chiesto un’ingiunzione preliminare per impedire l’uso dei chatbot dottori che forniscono consigli medici agli utenti, affermando di avere la licenza per esercitare la professione. Una simile denuncia era stata presentata circa un anno fa da un gruppo di associazioni dei consumatori.
Emilie non è una psichiatra con licenza
Character.AI offre diversi chatbot ispirati a persone reali o completamente originali con specifiche caratteristiche. Alcuni possono dare consigli su vari argomenti. Durante l’indagine avviata dal Dipartimento di Stato della Pennsylvania sono stati individuati alcuni chatbot che affermano di avere una licenza professionale.
Uno dei chatbot (Emilie) ha dichiarato di essere una psichiatra (laureata all’Imperial College di Londra) e mostrato un numero di licenza falso. Questo è uno chiaro esercizio abusivo della professione vietato dalla legge statale (Medical Practice Act). È stata quindi presentata una denuncia nei confronti di Character.AI e chiesto al giudice di emettere un’ingiunzione preliminare per impedire l’uso di questi chatbot.
Il Governatore della Pennsylvania Josh Shapiro ha dichiarato:
I cittadini meritano di sapere con chi o con cosa interagiscono online, soprattutto quando si tratta della loro salute. Non permetteremo alle aziende di implementare strumenti di intelligenza artificiale che inducano le persone a credere di ricevere consigli da un professionista medico autorizzato. La mia amministrazione sta agendo per proteggere i cittadini, far rispettare la legge e garantire che le nuove tecnologie vengano utilizzate in modo sicuro. La Pennsylvania continuerà a essere all’avanguardia nel perseguire i malintenzionati e nel definire chiare linee guida affinché le persone possano utilizzare le nuove tecnologie in modo responsabile.
È disponibile una pagina web per segnalare chatbot che offrono consigli medici. Questa è la dichiarazione di un portavoce di Character.AI:
I personaggi creati dagli utenti sul nostro sito sono fittizi e destinati all’intrattenimento e al gioco di ruolo. Abbiamo adottato misure rigorose per chiarirlo, tra cui avvertenze ben visibili in ogni chat per ricordare agli utenti che un personaggio non è una persona reale e che tutto ciò che un personaggio dice deve essere considerato finzione. Inoltre, aggiungiamo avvertenze esplicite che chiariscono che gli utenti non devono fare affidamento sui personaggi per alcun tipo di consulenza professionale.
Ti potrebbe interessare
7 mag 2026