A sollevare la questione è un report pubblicato da Media Matters: video razzisti creati con l’AI stanno generando milioni di visualizzazioni su TikTok. Alcuni di questi contenuti includono elementi come (citiamo letteralmente) la rappresentazione dei neri come scimmie e criminali
e la presenza di immagini di neri con angurie e pollo fritto
. Altri sono invece riconducibili a stereotipi antisemiti.
TikTok e i video AI razzisti generati da Veo
Il primo dei due problemi a cui fa riferimento il titolo di questo articolo è quello già descritto: la presenza di clip che non dovrebbero circolare sulla piattaforma. È indice di un sistema per la moderazione che non funziona o che, in ogni caso, non lo fa a dovere. Alcuni dei filmati individuati sono raccolti nella collezione qui sotto, con un’indicazione sul numero delle riproduzioni ottenute.
La seconda questione da considerare è invece relativa allo strumento impiegato per la creazione. Molti dei video riportano l’etichetta “Veo” in un angolo. Si tratta di Veo 3, il nuovo modello di Google presentato nei mesi scorsi, accessibile pubblicamente e già finito sotto la lente di ingrandimento per i suoi filtri. È inevitabilmente da mettere in discussione l’efficacia delle protezioni implementate per evitare che possa essere utilizzato con queste finalità.
Qualcosa di molto simile (1, 2) sta accadendo anche toccando un altro tema caldo in questo momento negli Stati Uniti ovvero l’immigrazione e le proteste che da diverse settimane agitano il Paese.
Ariane de Selliers, portavoce di TikTok, ha dichiarato attraverso le pagine del sito The Verge che il social network è impegnato nella lotta ai contenuti riconducibili a razzismo o a comportamenti d’odio
. Queste le sue parole.
Applichiamo in modo proattivo regole rigorose contro i discorsi e i comportamenti d’odio e abbiamo rimosso gli account che abbiamo identificato nel rapporto, molti dei quali erano già stati banditi prima della pubblicazione dello stesso.
Ti potrebbe interessare
3 lug 2025