Bing ha un problema con la pedopornografia

Bing ha un problema con la pedopornografia

Il motore di ricerca mostra immagini e correlati dal contenuto pedopornografico per determinate query: Microsoft al lavoro sulla soluzione.
Bing ha un problema con la pedopornografia
Il motore di ricerca mostra immagini e correlati dal contenuto pedopornografico per determinate query: Microsoft al lavoro sulla soluzione.

Qualcosa non va su Bing. A svelarlo il report realizzato dal team AntiToxin su commissione del sito TechCrunch. Il motore di ricerca mostra tra i suoi risultati immagini dal contenuto riconducibile alla pedopornografia, suggerendo inoltre termini correlati alla query digitata per trovarne altre. Microsoft ha dichiarato di aver preso in carico il problema e di essere al lavoro per risolverlo al più presto.

La pedopornografia su Bing

Lo studio è stato condotto in seguito alla segnalazione di un lettore, rimasto anonimo, che ha riferito il comportamento alla redazione di TechCrunch. I test effettuati nel periodo compreso fra il 30 dicembre e il 7 gennaio lo hanno confermato, come testimonia lo screenshot allegato di seguito in cui le immagini incriminate sono ovviamente state censurate con dei riquadri rossi. Evitiamo volontariamente di riportare query e chiavi di ricerca su queste pagine: chi desidera approfondire la questione lo può fare sfogliando il documento “AntiToxin Report On Child Exploitation In Bing Search”.

Uno screenshot tratto dal report

La replica del motore di ricerca è stata affidata alle parole di Jordi Ribas, Corporate Vice President della divisione Bing, che ha riferito di aver raccolto la segnalazione e di essersi già messo al lavoro con la sua squadra per far sì che una simile dinamica non possa essere replicata.

Abbiamo agito immediatamente per rimuoverli, ma vogliamo anche prevenire che altre violazioni simili possano avvenire in futuro. Impareremo da questa lezione così da poter apportare qualsiasi altro miglioramento necessario.

Va precisato che i test sono stati condotti da AntiToxin disattivando qualsiasi filtro legato alla Ricerca Sicura, il che non giustifica in ogni caso la comparsa delle immagini incriminate. Ancora più grave, oltre a mostrare una serie di contenuti che non dovrebbero comparire, Bing suggerisce ricerche correlate per trovarne altri.

Non solo Bing

Il problema non riguarda (purtroppo) solo il servizio di Microsoft. Se ne è parlato di recente in relazione a WhatsApp, con il team al lavoro sull’applicazione che dichiara di aver disattivato oltre 130.000 account in una decina di giorni circa poiché responsabili dello scambio di materiale pedopornografico all’interno dei gruppi di chat. Qualcosa di molto simile è avvenuto poi con Tumblr, a novembre rimosso da App Store per la medesima ragione.

Una delle più gravi e vergognose piaghe del mondo online sembra dunque più difficile da debellare rispetto a quanto si è sperato, sopravvivendo all’azione di algoritmi e moderazione. Non stiamo parlando di Deep Web o di lidi virtuali nascosti agli occhi dell’utente più comune. Se a esserne infetto è uno dei motori di ricerca più noti e gestito da una delle principali software house al mondo, significa che la strada da percorrere è ancora piuttosto lunga.

Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il 11 gen 2019
Link copiato negli appunti