Meta aggiorna i chatbot per impedire chat romantiche

In seguito alla scoperta di Reuters, Meta ha deciso di aggiornare i chatbot per impedire conversazioni romantiche con i minori. L’azienda di Menlo Park effettuerà un nuovo addestramento dei modelli aggiungendo ulteriori misure di protezione. Nel frattempo è emersa un’altra discutibile scelta di Meta, ovvero la creazione di chatbot simiglianti a personaggi famosi.

Meta aggiunge più protezioni per i minori

In base ad un documento visto da Reuters, Meta permette di avere conversazioni romantiche o sensuali tra chatbot e minori, in quanto ritenute accettabili. L’azienda californiana ha successivamente rimosso le parti incriminate perché erano solo esempi errati e incoerenti con la policy. Un senatore ha chiesto informazioni a Mark Zuckerberg, mentre il Procuratore generale del Texas ha avviato un’indagine su Meta AI Studio, il tool che consente di creare chatbot personalizzati.

Meta ha comunicato che i chatbot non potranno più avere conversazioni romantiche e su altri argomenti, come autolesionismo, suicidio e disordini alimentari. Ulteriori misure di sicurezza per i minori verranno introdotte nelle prossime settimane. Una portavoce ha confermato che i chatbot potevano parlare con gli adolescenti di tutti questi argomenti. Meta ha ammesso che si è trattato di un errore.

Stiamo aggiungendo più misure di sicurezza come ulteriore precauzione, tra cui l’addestramento delle nostre AI in modo da non interagire con gli adolescenti su questi argomenti, ma invece indirizzarli verso risorse esperte. Questi aggiornamenti sono già in corso e continueremo ad adattare il nostro approccio per garantire che gli adolescenti abbiano esperienze con l’AI sicure e idonee alla loro età.

L’azienda californiana ha inoltre bloccato l’accesso ad alcuni chatbot su Facebook e Instagram che possono avviare conversazioni inappropriate. Le nuove protezioni saranno attivate in tutti i paesi di lingua inglese.

Quasi contemporaneamente al comunicato di Meta, Reuters ha scoperto un altro “passo falso”. Meta ha creato e consentito di creare diversi chatbot con nomi e simiglianze di personaggi famosi, tra cui Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez. Queste celebrity virtuali sono state condivise su Facebook, Instagram e WhatsApp. Quasi tutti i chatbot sono stati eliminati da Meta.

L’uso di immagini e nomi di persone reali per scopi commerciali è vietato dalla legge californiana. Le celebrity potrebbero anche denunciare Meta.