YouTube, reindirizzamento anti-odio

Messo a punto dalla collaborazione con startup specializzate in sicurezza e antiterrorismo, il Redirect Method aggiunge un tassello importante alla prevenzione di atti estremi e al reclutamento online di nuovi terroristi

Roma – YouTube integra una nuova funzione volta a sensibilizzare i soggetti a rischio di radicalizzazione e quindi possibili azioni terroristiche. Oltre a filtrare continuamente contenuti potenzialmente a rischio (anche con l’ausilio dell’ intelligenza artificiale ), da oggi la piattaforma si occuperà anche di “dirottare” chi usa termini di ricerca estremi verso contenuti video pensati appositamente per contrastare la propaganda ed educare alla pace. Il nuovo sistema si chiama Redirect Method ed è stato sviluppato da Jigsaw , azienda specializzata in sicurezza del portafoglio di Alphabet e la startup Moonshot CVE specializzata in prevenzione del terrorismo.


“Il Redirect Method utilizza strumenti di targeting AdWords e video specifici di YouTube caricati da persone in tutto il mondo per affrontare la radicalizzazione online. Si concentra sulla fetta del pubblico dell’ISIS che è più suscettibile ai suoi messaggi e li reindirizza verso video specifici di YouTube che distolgono dai temi di reclutamento usati dall’ISIS (che durante la fase di analisi tra agosto e settembre 2015 sono apparsi netti e impiegati in specifici modelli narrativi ). Questo metodo è stato sviluppato da interviste con disertori dell’ISIS, rispetta la privacy degli utenti e può essere impiegato per affrontare altri tipi di reclutamento violento online” – si legge sul sito dedicato al progetto. La tecnologia si presta ad essere effettivamente utilizzata anche per altri casi , ed è già stata prevista una sorta di guida all’implementazione .

Nelle ultime settimane, come la stessa YouTube dichiara , gli sforzi sono stati rivolti ad espandere la nuova funzionalità ad una più vasta schiera di termini di ricerca e in altre lingue oltre all’inglese; usando il machine learning sarà possibile far sì che il sistema aggiorni in maniera dinamica i termini di ricerca da attenzionare; assieme a Jigsaw si sta allargando il sistema anche all’Europa. Nelle prime otto settimane di test sono state registrate 320mila richieste di visualizzazione di video “a rischio” utilizzando parole chiave inneggianti all’ISIS o loro slogan. A dimostrazione che il problema è veramente grave e che la tecnologia può in questo senso aiutare nella fase di prevenzione. Fondamentale è la collaborazione con le ONG per sviluppare nuovi contenuti video contro i messaggi estremistici che costituiscono, purtroppo, una tappa fondamentale nel percorso di radicalizzazione.

Un approccio di collaborazione simile era stato reso noto anche da parte di Facebook, che oltre a filtrare e rimuovere contenuti violenti attraverso l’utilizzo di AI e il supporto di moderatori umani, ha stretto collaborazioni con le ONG per cercare di mediare con i soggetti a rischio di radicalizzazione. È probabile che altri giganti tecnologici, che già hanno formalizzato collaborazioni contro il terrorismo , seguiranno strade simili. La stessa Google, dopo aver tirato le somme della funzionalità da poco introdotta, potrebbe decidere di integrarla su altri suoi servizi.

Mirko Zago

La tua email sarà utilizzata per comunicarti se qualcuno risponde al tuo commento e non sarà pubblicato. Dichiari di avere preso visione e di accettare quanto previsto dalla informativa privacy

Chiudi i commenti