TikTok: funzionalità di sicurezza placebo ai minori

TikTok ha eseguito un esperimento disattivando le funzionalità di sicurezza per migliaia di utenti, inclusi bambini e adolescenti. Ciò ha avuto un effetto placebo perché il risultato reale era diverso da quello previsto. Questa è l’accusa contenuta nella denuncia presentata dalla procuratrice generale dello Stato di New York due anni fa.

Algoritmo dei suggerimenti non resettato

L’accusa appena resa pubblica fanno parte della causa intentata dalla procuratrice generale di New York (Letitia James) contro l’azienda. È una delle oltre venti azioni legali avviate da vari Stati che accusano TikTok di aver progettato la propria piattaforma per creare dipendenza nei minori e di aver ingannato gli utenti in merito alla sicurezza del servizio.

Molti documenti sono stati secretati o pesantemente redatti, in quanto TikTok ha cercato di impedire che i dettagli sulle proprie attività venissero resi noti al pubblico. Le affermazioni relative ai test sono contenute in una versione aggiornata e secretata della denuncia, depositata a fine agosto e successivamente resa pubblica per ordine del giudice.

Durante un esperimento, denominato ghost o placebo, TikTok ha scelto migliaia di utenti che avevano usato la funzionalità “Algo Refresh” per resettare i suggerimenti e quindi evitare la visualizzazione di contenuti indesiderati e pericolosi. Questi utenti credevano di aver attivato la funzionalità, ma i loro feed non sono cambiati, a differenza di quelli che hanno ricevuto la versione perfettamente funzionante.

Nella denuncia è scritto inoltre che TikTok ha ingannato gli utenti perché la suddetta funzionalità aveva solo un effetto temporaneo. Un portavoce dell’azienda ha dichiarato:

Apportiamo continuamente miglioramenti alla nostra piattaforma, il che significa che, come la maggior parte delle aziende, testiamo regolarmente nuovi prodotti e funzionalità per convalidare l’esperienza e capire come funzionano nel mondo reale.

Nella parte della denuncia resa pubblica viene citato anche l’esperimento descritto da Bloomberg all’inizio di agosto. TikTok ha disattivato le funzionalità che bloccavano la visualizzazione di contenuti pericolosi per circa 15 milioni di utenti negli Stati Uniti. Uno di essi (Chase Nasca, 16 anni) si è suicidato.