Facebook blocca sul nascere il terrorismo con l'AI

Dal riconoscimento dei volti all'interpretazione del linguaggio, l'intelligenza artificiale è alla base di numerosi sistemi utilizzati da Facebook per contrastare i terroristi. Ma l'uomo continua ad essere fondamentale

Roma – La lotta al terrorismo si combatte sempre più su Internet e in particolare sui social network. Facebook ha dichiarato di voler rafforzare i controlli al fine di espugnare qualsiasi roccaforte di gruppi terroristici celati dietro pagine insospettabili o account personali. “Non c’è spazio su Facebook per il terrorismo. Rimuoveremo i terroristi e i post che supportino il terrorismo non appena ce ne accorgiamo” – ha reso noto Facebook con una nota stampa .

Facebook

Una delle criticità su cui da sempre Facebook lavora è il mantenimento della piattaforma sicura per i suoi utenti. Lo ha ribadito più volte, e il lavoro di “pulizia” è diventato nel tempo un tema sempre più caldo che ha richiesto il rafforzamento di filtri tecnologici e umani, il ripensamento del meccanismo per la discriminazione tra notizie vere e fasulle e non ultimo l’aggiornamento delle regole d’utilizzo divenute più stringenti . Ora è giunto il momento di uscire dalla fase di preservazione e passare all’attacco, cogliendo le richieste provenienti dalla comunità e dalla politica. L’ultimo monito di combattere il terrorismo concentrando l’attenzione online è arrivato tanto da Theresa May quanto da Emmanuel Macron, entrambi primi ministri di due Paesi duramente colpiti da attacchi terroristici, Regno Unito e Francia.

Il processo che Facebook adotta come prevenzione, come raccontato da Monika Bickert, Director of Global Policy Management, e Brian Fishman, Counterterrorism Policy Manager, non si limita alla mera intercettazione di parole chiave sospette all’interno di post ed eventuale segnalazione alle autorità in casi particolarmente urgenti e gravi. Il meccanismo è farcito di avanzati sistemi di intelligenza artificiale in grado di riconoscere foto o video contenenti sospettati (“image matching”) e bloccarne il caricamento, ma anche di interpretare il linguaggio (“language understanding”) prevenendo così la pubblicazione di articoli inneggianti al terrorismo. L’AI di Facebook è inoltre in grado di punire i recidivi , quegli utenti che in maniera sempre più sofisticata cercano di bypassare i controlli creando falsi account, così come di smantellare cellule terroristiche . In questo caso la ricerca e la definizione del rischio avvengono sulla base del tentativo di condivisione di materiale vietato o la presenza di un numero elevato di like e amicizie a pagine o account rimosse precedentemente per violazioni. L’opera di controllo è per di più multipiattaforma analizzando e incrociando dati non solo di Facebook, ma anche di WhatsApp e Instagram.

Facebook sa bene che l’intelligenza artificiale è un supporto irrinunciabile, ma sa altrettanto bene che è necessario l’ intervento umano per meglio comprendere alcuni contesti su cui gli algoritmi possono essere tratti in inganno. Le “sfumature” sono affidate quindi ai controlli ferrei compiuti da un numero cospicuo di specialisti che lavorano 24 ore al giorno. Solo nell’ultimo anno Facebook ha incrementato il numero di addetti di 3mila unità arrivando a 7.500 persone attive nei processi di controllo , come lo stesso Zuckerberg ha reso noto , di cui 150 specializzate nella prevenzione del terrorismo in stretto contatto con le forze dell’ordine in ottica collaborativa.

La stessa collaborazione emerge anche dalle numerose partnership nate con istituzioni e altre aziende. Si va dalla condivisione e alimentazione di un unico database di dati identificativi di criminali e terroristi assieme a Microsoft, Twitter e YouTube; con i governi e organizzazioni intergovernative sono stati aperti tavoli di lavoro per la condivisione di informazioni (in particolare con l’EU Internet Forum, la Global Coalition Against Daesh e il UK Home Office). In collaborazione con alcune ONG sono stati anche attivati progetti che mirano a coinvolgere esperti influenzatori in grado di fornire repliche e messaggi volti a dissuadere eventuali comportamenti a rischio . Naturalmente l’aspetto culturale è fondamentale, e a tal proposito sono state attivate numerose iniziative di sensibilizzazione della cittadinanza con il supporto di associazioni e istituti come l’Institute for Strategic Dialogue ma anche studenti in tutto il mondo che hanno partecipato a realizzare e diffondere oltre 500 campagne anti-odio e contro l’estremismo.

In questo caso la tecnologia oltre ad essere funzionale all’obiettivo sembra riuscire a rispettare anche la privacy, un tema che spesso viene tirato in ballo quando si parla di controllo sulle persone (è questo uno dei motivi per cui è stata bocciata la proposta di legge anti-terrorismo italiana ad esempio). Rimane inteso infatti che i messaggi protetti con end-to-end encryption non vengono violati, seppur sia garantita ovviamente la piena collaborazione con le autorità nell’opera di contrasto.

Gli sforzi compiuti fin qui sono elevati e dimostrano un reale impegno verso l’obiettivo. Stesso impegno condiviso anche da molte altre piattaforme seppur con qualche difficoltà. Twitter ad esempio è stata costretta a subire accuse di “favoreggiamento” al terrorismo per non aver saputo bloccare sul nascere alcune minacce riuscendo a cavarsela appellandosi alla Communications Decency Act (CDA) che definisce non perseguibili gli intermediari online per eventuali contenuti dannosi creati da terzi, ma soprattutto adottando essa stessa regole più ferree.

Mirko Zago

fonte immagine

La tua email sarà utilizzata per comunicarti se qualcuno risponde al tuo commento e non sarà pubblicato. Dichiari di avere preso visione e di accettare quanto previsto dalla informativa privacy

  • Ubaldo scrive:
    Internet ha solo una responsabilità
    Quella di aver reso il mondo un posto peggiore
    • panda rossa scrive:
      Re: Internet ha solo una responsabilità
      - Scritto da: Ubaldo
      Quella di aver reso il mondo un posto peggioreQuindi secondo il tuo punto di vista, meglio una totale ignoranza di una cruda realta' urlata in faccia.Hai una grande occasione per contribuire a migliorare il mondo: scollegati per sempre dalla rete.
    • Sg@bbio scrive:
      Re: Internet ha solo una responsabilità
      - Scritto da: Ubaldo
      Quella di aver reso il mondo un posto peggioreCioè ? In che senso ha reso il mondo un posto peggiore ? :D
      • Ubaldo scrive:
        Re: Internet ha solo una responsabilità
        - Scritto da: Sg@bbio
        - Scritto da: Ubaldo

        Quella di aver reso il mondo un posto peggiore

        Cioè ? In che senso ha reso il mondo un posto
        peggiore ?
        :DE' stato un razzo per la globalizzazione e la distruzione di posti di lavoro. E siamo solo all'inizio. Il bello deve ancora arrivare
        • Thepassenge r scrive:
          Re: Internet ha solo una responsabilità
          E' vero ma internet ha anche avuto il beneficio di aprire le coscienze di molti e informare chi era ignorante, un'arma a doppio taglio che nella mani sbagliate può essere usato per fini malvagi (globalizzazione, perdita di posti di lavoro, etc...), come ogni cosa del resto.- Scritto da: Ubaldo
          E' stato un razzo per la globalizzazione e la
          distruzione di posti di lavoro. E siamo solo
          all'inizio. Il bello deve ancora
          arrivare
          • Ubaldo scrive:
            Re: Internet ha solo una responsabilità
            - Scritto da: Thepassenge r
            E' vero ma internet ha anche avuto il beneficio
            di aprire le coscienze di molti e informare chi
            era ignorante, un'arma a doppio taglio che nella
            mani sbagliate può essere usato per fini malvagi
            (globalizzazione, perdita di posti di lavoro,
            etc...), come ogni cosa del
            resto.

            Gli unici benefici sono stati per le multinazionali che hanno disintegrato il mercato del lavoro, sono cresciute esponenzialmente e hanno contribuito a rendere la rete da libera a strumento di profilazione e controllo di massa.Il rapporto benefici/svantaggi non è sostenibile.
          • capo scrive:
            Re: Internet ha solo una responsabilità
            non vedo altre soluzioni che togliere lo smartphone dalle mani dei pecoroni che lo usano (rotfl) e poi posti di lavoro come se piovesse
          • capo scrive:
            Re: Internet ha solo una responsabilità
            certo, ma anche no :curati va
          • Ubaldo scrive:
            Re: Internet ha solo una responsabilità
            - Scritto da: capo
            certo, ma anche no :

            curati vaForse, ma anche sì!E non dimenticarti le emoticon quando lo prendi in culo!
  • psikik scrive:
    niente di nuovo sotto il sole...
    Lo sappiamo che oggi le "autorità" strumentalizzano il desisderio di sicurezza della gente; desiderio pompato dai media che amplificano ogni notizia per soldi e per calcolo politico.Il problema è che i popoli sono ottusizzati da montagne di regole che impediscono ogni movimento se non preventivamente autorizzato proprio dalle stesse "autorità", e in più grazie alla paura pompata dai media, la gente è anche contenta nel farsi togliere fette sempre più ampie di libertà.Dicono gli psicologi sociali che le società hanno una maturità che va dai due ai 6-7 anni equivalenti di un bambino sano.Chi si rende società (cioè la stragrande maggioranza delle popolazioni) ha ampie aree di se stesso regredite a quell'età.Non stupisce che il mondo vada, e sia sempre andato, come va.
    • 24mila baci scrive:
      Re: niente di nuovo sotto il sole...
      Al posto di aiutare la gente a diventare migliore (non, più addomesticata) partendo già dalle elementari, gli amministratori degli Stati, assolutamente inadatti al loro compito, realtà docet, preferiscono reprimere con regole sempre più strette, a grande richiesta delle fasce meno evolute delle popolazioni.E' una ammissione di incapacità, che nessuno coglie semplicemente perché l'incapacità è così comune da essere "normale" e quindi impercettibile.
  • Franco Peci scrive:
    sono d'accordo
    Come uno dei 24 affezionati lettori anche stavolta sono perfettamente daccordo con Cassandra.È chiaro che oltre alla solita e banale colpevolizzazione dello strumento quale capro espiatorio di tutti i mali, giornalisti, pennivendoli e lecca lecca si sentono traballare la terra sotto i piedi.Fake e bufale non si tacitano dallalto e forse nemmeno con fantomatici software di AI ma esercitando, per quanto ci è possibile, un sano spirito critico sia verso politici e lacché appena citati, sia verso chi digita senza inserire il proprio cervellino...
    • Thepassenge r scrive:
      Re: sono d'accordo
      Il dissenso e le critiche in rete vogliono censurare, non l'odio e le fake news tantè che i primi che fomentano fake news sono gli stessi giornali e media.E' giusto bacera censura contro verità scomode e far passare coem vere notizie false e menzogne.- Scritto da: Franco Peci
      Come uno dei 24 affezionati lettori anche
      stavolta sono perfettamente daccordo con
      Cassandra.
      È chiaro che oltre alla solita e banale
      colpevolizzazione dello strumento quale capro
      espiatorio di tutti i mali, giornalisti,
      pennivendoli e lecca lecca si sentono traballare
      la terra sotto i
      piedi.
      Fake e bufale non si tacitano dallalto e forse
      nemmeno con fantomatici software di AI ma
      esercitando, per quanto ci è possibile, un sano
      spirito critico sia verso politici e lacché
      appena citati, sia verso chi digita senza
      inserire il proprio
      cervellino...
  • Internet scrive:
    Ciao sono Internet
    Ciao sono Internet.Quando voi uomini capirete che conviene usarmi come uno specchio, anziché demonizzarmi, sarà troppo tardi.
    • sulmonide scrive:
      Re: Ciao sono Internet
      Non è solo Internet ad essere uno specchio, bensì ogni cosa, situazione, animale, pianta o umano non fa altro che rimandare al mittente il contenuto della sua mente in quel momento.Ma sono anche migliaia di anni che pochi umani capiscono questa verità, mentre gli altri passano l'intera vita a lottare contro gli specchi.Oggi, che più umani di ieri la capiscono (sempre pochissimi), molti di questi non la usano per evolvere ma solo per soggiogare il prossimo.E' quello che accade ovunque.
      • Il Fuddaro scrive:
        Re: Ciao sono Internet
        - Scritto da: sulmonide
        Non è solo Internet ad essere uno specchio, bensì
        ogni cosa, situazione, animale, pianta o umano
        non fa altro che rimandare al mittente il
        contenuto della sua mente in quel
        momento.

        Ma sono anche migliaia di anni che pochi umani
        capiscono questa verità, mentre gli altri passano
        l'intera vita a lottare contro gli
        specchi.

        Oggi, che più umani di ieri la capiscono (sempre
        pochissimi), molti di questi non la usano per
        evolvere ma solo per soggiogare il
        prossimo.
        E' quello che accade ovunque.Dovresti fargli capire pure un 1/4 di quanto ai detto ad un certo Bertuccia, che quelli come lui manco la raggiungono la media del bimbo sano! (rotfl)Lui è fatto così: e scritto sul sito apple, oppure lo dice tale markettaro ed è talmente convinto che ti porta un link per ogni sua verità. :)
Chiudi i commenti