Garante Privacy multa Replika: 5 milioni di euro e nuova indagine

Il Garante Privacy ha appena annunciato di aver sanzionato la società statunitense Luka che gestisce il chatbot Replika per 5 milioni di euro. Oltre ad aver inflitto la multa, l’autorità ha aperto una nuova indagine con l’obiettivo di far luce sulle modalità di addestramento del modello di intelligenza artificiale generativa alla base del servizio.

Replika: Luka sanzionata dal Garante Privacy

La piattaforma è nota poiché propone un compagno AI che si prende cura di te (così si legge sul sito ufficiale), un’entità virtuale sempre disponibile ad ascoltare e parlare, sempre al tuo fianco. Una sorta di confidente animato da algoritmi, ma all’occorrenza anche terapista, partner romantico o mentore.

Il Garante afferma di aver accertato la violazione delle disposizioni contestate nel febbraio 2023. All’epoca, aveva già imposto il blocco dell’applicazione. Tra le responsabilità attribuite a Luka, anche quella di aver fornito una privacy policy inadeguata sotto vari profili, non prevedendo tra le altre cose alcun meccanismo per la verifica dell’età degli utenti, nonostante dichiarasse di non consentire l’accesso ai minorenni. Quest’ultimo aspetto rappresenta un punto debole ancora oggi.

Alla società sono state chieste informazioni relative ai trattamenti dei dati relativi all’intero ciclo di vita del sistema di AI generativa e alla valutazione dei rischi oltre che alle misure adottate per tutelare i dati nelle varie fasi di sviluppo e addestramento del modello linguistico alla base di Replika, alle tipologie e categorie di dati utilizzati e all’eventuale implementazione di misure di anonimizzazione o pseudonimizzazione.

L’amore ai tempi dell’AI

Luka è una delle prime startup AI del settore. Ha sede a San Francisco ed è attiva fin dal 2017, da molto prima che l’avvento di ChatGPT accendesse i riflettori su un ambito oggi estremamente popolare. L’idea di sfruttare l’intelligenza artificiale generativa per dar vita a un partner virtuale è un concept che nell’ultimo biennio molti hanno cercato di far fruttare.