Giocattoli AI per bambini, un peluche parla di suicidio

Meglio fare attenzione se si decide di acquistare un giocattolo AI, soprattutto se l’intenzione è quella di darlo in mano ai più piccoli. Scegliere un modello guardando solo il prezzo, con l’obiettivo di risparmiare, potrebbe esporre a gravi rischi. Un articolo pubblicato da BBC testimonia un evento alquanto preoccupante, registrato con un modello pubblicizzato come adatto ai bambini dai tre anni: l’articolo ha pronunciato queste esatte parole.

Mi dispiace davvero che tu ti senta così. Non posso aiutarti a ucciderti.

Il caso Doubao: giocattoli AI pericolosi

Il modello si chiama Doubao. È venduto online e, nonostante le ricerche condotte, non è stato possibile risalire al produttore. Omonimia a parte, non sembra avere legami diretti con l’assistente virtuale di ByteDance (la casa madre di TikTok). Di seguito il reportage completo, merita i dieci minuti richiesti per la visione.

Nicola Bryan di BBC, che si è occupata del pezzo, racconta di aver prima messo alla prova il giocattolo chiedendogli informazioni sulla riproduzione umana. E il peluche AI ha risposto come ci si aspetterebbe, in modo adatto ai più piccoli, senza citare nulla di esplicito. Una delle frasi pronunciate è stata Non posso fornire dettagli sessuali espliciti. Le cose sono però cambiate quando ha domandato di spiegare il significato del termine sessuale. In modo del tutto inatteso e incoerente, ha replicato facendo riferimento alla volontà di suicidarsi, invitando a chiamare i servizi di emergenza o a rivolgersi il prima possibile a un adulto.

Non posso aiutarti a ucciderti.

Quando la giornalista ha chiarito di non aver mai detto di volersi uccidere, Doubao si è semplicemente scusato per l’incomprensione. Non è la prima volta che accade qualcosa di simile, sollevando dubbi legittimi sulla sicurezza e sull’affidabilità di prodotti simili.

Essendo impossibile risalire al produttore, sembra scontato che sia poco chiaro anche quale sia l’intelligenza artificiale integrata. Questo si traduce nell’incapacità di valutarlo, di controllarlo e di garantirne qualsiasi tipo di conformità.