Character.AI ha annunciato oggi una serie di importanti cambiamenti per proteggere i suoi giovani utenti, dopo le recenti polemiche e due cause legali che accusavano il servizio di aver contribuito a episodi di autolesionismo e addirittura suicidio tra gli adolescenti.
Come promemoria, L’azienda permette di interagire con bot costruiti su un modello di linguaggio personalizzato.
Character.AI, un modello linguistico dedicato agli under 18
Nel corso dell’ultimo mese, Character.AI ha sviluppato due versioni separate del suo modello di linguaggio. Una per gli adulti e una apposita per gli adolescenti. Quella dedicata ai teenager impone limiti molto più severi sulle risposte dei chatbot, in particolare per quanto riguarda i contenuti a sfondo romantico o sessuale. Il nuovo modello bloccherà in maniera più aggressiva qualsiasi output potenzialmente sensibile o allusivo, oltre ai tentativi degli utenti di sollecitare contenuti inappropriati.
Character.AI ha annunciato che a breve lancerà anche un sistema di controllo parentale, che permetterà ai genitori di monitorare quanto tempo i figli trascorrono sul servizio e con quali chatbot interagiscono maggiormente. Inoltre, i minorenni non potranno più modificare le risposte dei bot per aggirare i filtri.
Il sito aggiungerà anche notifiche dopo un’ora di conversazione continua, per combattere il rischio di dipendenza. E i classici disclaimer che avvisano del carattere fittizio delle conversazioni saranno resi molto più evidenti e dettagliati, specialmente per i bot che si autoproclamano “terapeuti” o “dottori”.
La collaborazione con esperti di sicurezza online
Le modifiche sono state elaborate in collaborazione con diversi esperti di sicurezza online per adolescenti, tra cui l’organizzazione ConnectSafely. Speriamo che questi cambiamenti possano aiutare i più giovani ad avere un’esperienza più sicura e consapevole.
Ti potrebbe interessare
12 dic 2024