Facebook, AI contro i contenuti inappropriati

Il social network affila le armi contro la pubblicazione di immagini e video, anche live, contenenti nudità e violenza, senza risparmiare post animati da bullismo e notizie false, servendosi dell'intelligenza artificiale

Roma – Facebook sta lavorando a un sistema basato sull’intelligenza artificiale in grado di individuare e contrassegnare materiale offensivo nei video in live streaming. Lo ha rivelato Joaquin Candela , direttore dei sistemi di machine learning dell’azienda di Menlo Park.

Descrizione immagine

L’azienda è stata coinvolta in molte controversie nel corso di quest’anno a causa della rimozione di materiale contenuto offensivo. Si ricordi, ad esempio, il caso di una foto icona della contestazione alla guerra del Vietnam, dove appare una bambina vietnamita che corre nuda dopo un bombardamento, rimossa appunto con l’accusa di “nudità”, senza tenere conto della portata storica dell’immagine. O al dilagare di notizie false , le cosiddette “bufale” sul proprio sito.

Da sempre Facebook fa analizzare da propri collaboratori migliaia di post allo scopo di rimuovere (e “sanzionare” con sospensioni) immagini e filmati che non rispondono agli “standard della comunità”. Candela ha ora dichiarato che Facebook sta agendo sul fronte dell’ intelligenza artificiale per individuare il materiale offensivo . In particolare, si lavora su “un algoritmo che individua nudità, violenza o altri elementi che non siano in accordo con le nostre politiche”. L’azienda sta anche lavorando per l’individuazione di contenuti estremistici nei video, come già riportato lo scorso giugno.

L’utilizzo dell’intelligenza artificiale per contrassegnare i video live è ancora allo stadio di ricerca, ha dichiarato Candela. Due sono le sfide da vincere, spiega: “Uno, l’algoritmo di visione deve essere veloce. Secondo, occorre dare priorità alle cose nel modo giusto, così come fa l’occhio umano, un esperto che conosce le nostre politiche e annota le cose che vede”. Facebook utilizza l’automazione per elaborare dieci milioni di segnalazioni ogni mese, per riconoscere report duplicati e indirizzare I contenuti contrassegnati agli esaminatori con la catalogazione appropriata.

Mark Zuckerberg, CEO di Facebook, ha affermato il mese scorso che Facebook sta passando all’automazione come parte di un piano per identificare le notizie false. Questa affermazione è arrivata dopo che, in occasione delle elezioni USA dell’8 novembre, gli utenti del social network avevano potuto leggere notizie palesemente false come quella che Papa Francesco avrebbe appoggiato il candidato Donald Trump e che un agente federale che stava indagando su Hillary Clinton sarebbe stato trovato morto.
Un altro tema che l’algoritmo in fase di test da parte di Facebook si propone di affrontare è il bullismo. I sistemi di intelligenza artificiale sembrano altresì essere un’arma adatta a contrastare il fenomeno della diffusione in rete di immagini e video pedopornografici. Anche l’Interpol, infatti, ha deciso di farvi ricorso per passare al setaccio l’enorme quantità di materiale immesso, allo scopo di individuare e catturare gli autori di questo genere di crimini.

Pierluigi Sandonnini

fonte immagine

La tua email sarà utilizzata per comunicarti se qualcuno risponde al tuo commento e non sarà pubblicato. Dichiari di avere preso visione e di accettare quanto previsto dalla informativa privacy

  • Akiro scrive:
    :) ...
    e chemmenefrega ammé!io ciò Carta SI!(cit. Maccio)
  • vattelapesca scrive:
    La soluzione?
    Bitcoin e in particola la blockchain
  • Krasto scrive:
    Ma và
    ma se chiedono conferma con l'SMS, come fanno a bucare quello?
    • rudy scrive:
      Re: Ma và
      infatti il numero valido da tenere "segreto" non lo e' troppo visto che per usarlo va comunque dato a destra e manca, in aggiunta in codice di 3 cifre del retro; tutto cio probabilmente puo' cascare se uno simula transazioni a caso (in mancanza di un sistema centralizzato di controllo)oltretutto per la maggior parte delle carte, c''e anche una password online.la vera sicurezza pero sta nel fatto che dietro contestazione la transazione venga annullata (che include l'SMS di avviso altrimenti inutile..)se supportano adeguatamente l'annullamento dietro contestazione direi che il sistema e' accettabile. QUESTO e' centrale.
    • Hop scrive:
      Re: Ma và
      - Scritto da: Krasto
      ma se chiedono conferma con l'SMS, come fanno a
      bucare
      quello?Divertiti con un motore di ricerca:russian banking malware android
  • xte scrive:
    Il problema è un altro
    Vale a dire il fatto che di banche ce ne sono tante e si suppone abbian interesse a farsi concorrenza; chi fa pagamenti elettronici... Bé abbiamo Visa, Mastercard e un paio di "minori" multinazionali e qualche circuito nazionale.Questo è il grosso problema e più la moneta elettronica sarà diffusa più sarà grave. Un sistema di pagamento gestito da 4 gatti gatti significa che colpendo o controllando i 4 gatti si blocca o controlla tutta la società
  • ringo scrive:
    idiotismi
    Una grande idea chiedere un parere ad un'azienda che ha tutto da perdere per la pubblicità negativa.E' ovvio che minimizzeranno.Sembra di vedere quelle coglionate sui media, quando chiedono ad un politico indagato se ha veramente fatto quello di cui è accusato.Il problema non sono le vulnerabilità, che esisteranno sempre, a meno di irrigidire fino all'inutilizzabilità ogni sistema di pagamento.Il fattore essenziale è quello di poter risolvere le vulnerabilità in tempi ristrettissimi, così da limitare i danni.
    • rockroll scrive:
      Re: idiotismi
      - Scritto da: ringo
      Una grande idea chiedere un parere ad un'azienda
      che ha tutto da perdere per la pubblicità
      negativa.
      E' ovvio che minimizzeranno.
      Sembra di vedere quelle coglionate sui media,
      quando chiedono ad un politico indagato se ha
      veramente fatto quello di cui è
      accusato.

      Il problema non sono le vulnerabilità, che
      esisteranno sempre, a meno di irrigidire fino
      all'inutilizzabilità ogni sistema di
      pagamento.
      Il fattore essenziale è quello di poter risolvere
      le vulnerabilità in tempi ristrettissimi, così da
      limitare i
      danni.Le vulnerabilità on-line ci saranno sempre, e risolverle in tempi ragionevoli non mi tranquillizza più di tanto.Continuo a pensare che la mania dei pagamenti on-line e per assurdo addirittura in mobilità sia un'incoscienza dei rischi.Mi chiedo cosa ci vorrebbe a tagliare la testa al toro (meglio alla juve), evitando qualunque coinvolgimento di dati bancari in rete, rendendo fatturabili i pagamenti di ordini effettuati on-line esclusivamente addebitandoli su bolletta telefonica, previo accordo col gestore TLC: tanto non ha senso cazzeggiare con transazioni di denaro in mobilità, ed un hacker per fregarmi dovrebbe avere acXXXXX fisico alla mia linea fissa dalla quale effettuare un ordine, il cui relativo bene verrebbe comunque inviato a casa mia. Certamente l'utente che utilizza tale forma di pagamento dovrebbe avere l'accortezza di spegnere il suo WiFi casalingo (quindi usare una onestissima connessione via cavo LAN) almeno per il periodo in cui effettua l'ordine.
      • Il fuddaro scrive:
        Re: idiotismi
        - Scritto da: rockroll
        - Scritto da: ringo

        Una grande idea chiedere un parere ad un'azienda

        che ha tutto da perdere per la pubblicità

        negativa.

        E' ovvio che minimizzeranno.

        Sembra di vedere quelle coglionate sui media,

        quando chiedono ad un politico indagato se ha

        veramente fatto quello di cui è

        accusato.



        Il problema non sono le vulnerabilità, che

        esisteranno sempre, a meno di irrigidire fino

        all'inutilizzabilità ogni sistema di

        pagamento.

        Il fattore essenziale è quello di poter
        risolvere

        le vulnerabilità in tempi ristrettissimi, così
        da

        limitare i

        danni.

        Le vulnerabilità on-line ci saranno sempre, e
        risolverle in tempi ragionevoli non mi
        tranquillizza più di
        tanto.

        Continuo a pensare che la mania dei pagamenti
        on-line e per assurdo addirittura in mobilità sia
        un'incoscienza dei
        rischi.

        Mi chiedo cosa ci vorrebbe a tagliare la testa al
        toro (meglio alla juve), evitando qualunque
        coinvolgimento di dati bancari in rete, rendendo
        fatturabili i pagamenti di ordini effettuati
        on-line esclusivamente addebitandoli su bolletta
        telefonica, previo accordo col gestore TLC: tanto
        non ha senso cazzeggiare con transazioni di
        denaro in mobilità, ed un hacker per fregarmi
        dovrebbe avere acXXXXX fisico alla mia linea
        fissa dalla quale effettuare un ordine, il cui
        relativo bene verrebbe comunque inviato a casa
        mia. Certamente l'utente che utilizza tale forma
        di pagamento dovrebbe avere l'accortezza di
        spegnere il suo WiFi casalingo (quindi usare una
        onestissima connessione via cavo LAN) almeno per
        il periodo in cui effettua
        l'ordine.Peccato però che i maggiori compratori on-line e in mobilità siano i più grandi consumatori di reti wifi!
      • tyfrtggv scrive:
        Re: idiotismi


        Mi chiedo cosa ci vorrebbe a tagliare la testa al
        toro (meglio alla juve), evitando qualunque
        coinvolgimento di dati bancari in rete, rendendo
        fatturabili i pagamenti di ordini effettuati
        on-line esclusivamente addebitandoli su bolletta
        telefonica, previo accordo col gestore TLCMa lo sai quante truffe ci sono state con questi sistemi?Questo è proprio uno dei sistemi più pericolosi.
        non ha senso cazzeggiare con transazioni di
        denaro in mobilità, Su questo sono d'accordo.
        ed un hacker per fregarmi
        dovrebbe avere acXXXXX fisico alla mia linea
        fissa dalla quale effettuare un ordine, il cui
        relativo bene verrebbe comunque inviato a casa
        mia.Esistono pagamenti online fatti tramite token che genera chiavi temporanee. Quelli sono i più sicuri. Se un hacker accede al tuo PC con la chiave temporanea non ci fa niente.
    • tyfrtggv scrive:
      Re: idiotismi


      Il problema non sono le vulnerabilità, che
      esisteranno sempre, a meno di irrigidire fino
      all'inutilizzabilità ogni sistema di
      pagamento.
      Il fattore essenziale è quello di poter risolvere
      le vulnerabilità in tempi ristrettissimi, così da
      limitare i danni.Un'organizzazione tipo VISA che non fa altro che gestire miliardi di transazioni di pagamento dovrebbe avere i sistemi a regola d'arte.Come minimo ci dovrebbe essere o un sistema CEP o un sistema big data che correla i pagamenti in tempo reale. Se nello spazio di un minuto ti arrivano tre pagamenti da tre siti internet diversi come minimo fai scattare un allarme e blocchi le transazioni per mezzora. In questi casi si dovrebbe mandare un codice di errore di sistema generico mentre un operatore verifica le transazioni.
Chiudi i commenti