Character.AI non protegge i minori, una multa dal Garante

Character Technologies Inc., l’azienda statunitense che gestisce Character.AI, ha ricevuto dal Garante Privacy italiano una multa per aver consentito anche ai minorenni di creare personaggi virtuali e interagire con loro, oltre che per alcune altre criticità individuate. L’Autorità ha rilevato diverse violazioni per quanto riguarda la disciplina di protezione dei dati: carenze nell’informativa, una valutazione dell’impatto tardiva e la designazione del rappresentante europeo che non è giunta in tempo.

Multa del Garante Privacy a Character.AI

C’è poi la questione legata alla verifica dell’età. Le procedure impiegate non sono in grado di garantire una tutela adeguata a chi non ha ancora compiuto 18 anni, necessaria considerando i rischi derivanti dall’impiego dell’intelligenza artificiale generativa in un servizio di intrattenimento.

La somma da pagare è in realtà piuttosto irrisoria, per un’azienda che punta a un ruolo da protagonista nell’ambito dell’intelligenza artificiale: una sanzione amministrativa da 158.000 euro. Rappresenta comunque un segnale concreto, dimostra che esistono dei limiti da non oltrepassare e delle linee guida da seguire durante lo sviluppo dei prodotti. La piattaforma è già finita più volte nel mirino di associazioni e autorità per questioni legate ai chatbot psicologici che ingannano gli utenti e a quelli che forniscono consigli medici.

Il Garante riconosce al team il merito di aver implementato alcune modifiche dall’avvio dell’istruttoria, pur non ritenendole sufficienti. Ha chiesto alla società di integrare meccanismi che impediscano i nuovi tentativi di registrazione da parte dei minorenni già bloccati (il cosiddetto periodo di raffreddamento). Inoltre, i profili già attivi in questa fascia d’età dovranno essere impostati di default in modalità privata. Ora, Character.AI ha 120 giorni di tempo per muoversi di conseguenza e rispondere.

Intanto, il servizio continua a crescere con l’inclusione di nuove funzionalità. Tra le ultime lanciate ci sono quelle dedicate ai classici della letteratura, alle Stories e a una sorta di social feed AI.