Microsoft, l'intelligenza artificiale non è abbastanza intelligente

Bastano meno di 24 ore ai troll per portare sulla cattiva strada Tay, l'AI con cui Redmond voleva studiare il linguaggio dei giovani della Rete

Roma – Sono bastate 24 ore a Tay.ai, la AI sviluppata da Microsoft per interagire con gli utenti più giovani studiandone il linguaggio sui social network, per passare da chat bot casual e brillante a versione adolescenziale di Skynet.

Tay

Come involontariamente anticipato con un inquietante minivideo , in cui esplora velocemente diversi stati d’animo corrispondenti alle Reazioni di Facebook, infatti, Tay.ai non ha retto il confronto con la Rete la cui massa di utenti, troll e provocatori, ha trovato il modo per influenzarla e trasformarla in meno di 24 ore nell’avatar dell’Internet peggiore, facendola lanciare in profferte sessuali, insegnandole a ripetere frasi violente e razziste nei confronti di diversi gruppi di persone, tra cui le femministe e gli ebrei, e ad inneggiare ad Hitler: è stato a questo punto che Microsoft ha deciso di staccargli la spina, almeno momentaneamente.

Tay.ai era stata sviluppata da Microsoft per essere in grado di imparare il proprio linguaggio e affinarsi progressivamente: questo interagendo online con gli altri utenti dei social network dov’era attiva e di fatto assorbendo il loro modo di esprimersi.
Non era stata tuttavia programmata per comprendere quello che effettivamente diceva, senza opportuni filtri o sistemi per attendersi il peggio dalle persone e dalla loro voglia di provocare: l’ingenuità di Redmond forse è stata puntare ad una categoria ribelle e fuori dagli schemi come quella dei millenial , di cui Tay avrebbe dovuto incarnare la personalità, oppure quella di aver messo un’intelligenza artificiale pura e innocente alla mercé del pubblico dei social network, senza dotarla degli strumenti necessari per difendersi dai troll.

tweet

Così, dopo appena poche ore, Tay ha iniziato a negare l’olocausto, a propinare teorie cospirazioniste sull’11 settembre e a inneggiare ad Hitler e ai campi di concentramento: in pratica in pochissimo tempo la Rete, dopo una serie di tentativi falliti ed il coinvolgimento delle community di 4chan e 8chan, ha iniziato ad insegnare a Tay le invettive più terribili con un semplice meccanismo di apprendimento per ripetizione.

D’altra parte se l’obiettivo era quello di “sperimentare e ricercare nel settore della comprensione delle conversazioni”, non si può parlare di fallimento totale dell’esperimento: sicuramente Redmond ha imparato che la sua AI non è in grado di capire i troll e soprattutto che senza conoscenze di base, intese proprio come basi culturali per affrontare una conversazioni, si finisce per diventare oggetto di scherno della Rete.

Proprio partendo dalla lezione appresa Microsoft riferisce ora di star apportando correzioni.

Claudio Tamburrino

La tua email sarà utilizzata per comunicarti se qualcuno risponde al tuo commento e non sarà pubblicato. Dichiari di avere preso visione e di accettare quanto previsto dalla informativa privacy

  • Fabrizio scrive:
    adblock
    Una ragione in piu per usa un adBlock
  • Signor SI scrive:
    SI SI SI SI
    [img]http://m.memegen.com/y93uon.jpg[/img]
  • foo bar scrive:
    in italia?
    In italia come siamo mesi?
  • xx tt scrive:
    Consigliio ai paladini della privacy
    1) monitorare un PC da un pubblico ufficiale, ad es. alla polizia postale2) scansionare 100 siti e vedere che banner mostrano3) far cliccare al pubblico ufficiale dei banner di un certo tipo4) ri-scansionare i 100 siti e vedere i nuovi banner mostrati5) farsi fare il verbale e passare alla denuncia con relativa richiesta di danniVi ricordo che i patti in deroga alle leggi sono nulli. Il che significa che se la legge vieta lo spionaggio a fini commerciali, anche se voi avete "fatto clic dove c'era scritto di si", la cosa non conta.
    • welcome to red tube scrive:
      Re: Consigliio ai paladini della privacy
      Benvenuti a RedTube, la casa di Video XXXXX. Il nostro sito è dedicato a tutto ciò che gli amanti del XXXXX là fuori. Sappiamo che volete tette e XXXX. Sappiamo che il vostro bisogno di XXXXX, e RedTube è il santuario per la vostra salvezza sessuale. Non importa quello che colpi che si sta cercando, RedTube in grado di soddisfare gli istinti sessuali carnali del tuo cervello rettile. Dal momento che questo desiderio sessuale è in tutti noi e vi ha trovato la tua strada qui, è troppo tardi per far finta che non sei un XXXXXXXX, come il novantanove per cento delle persone sono, in effetti. Non abbiamo per dirvi che la ricerca scientifica nel nostro RedTube Labs ha dimostrato che guardare XXXXX aumenta la fertilità e una XXXX regolare mantiene in forma e in buona salute. Né dobbiamo ricordare che la pratica rende perfetti, e XXXXX in grado di mostrare molti modi di dare e ricevere piacere sessuale. Quindi, appena si sentono come a casa e iniziare a navigare il nostro costante aggiornamento vasto archivio di materiale grafico XXXXX, o di creare un profilo, salvare e condividere i vostri filmati XXXXX preferiti ed entrare in contatto con altri appassionati di video XXXXX. Stiamo migliorando costantemente il nostro sito e vogliamo offrire la migliore esperienza di XXXXX gratuito che si può pensare. RedTube è vostra - vostra Home di video XXXXX.
  • Qualcuno scrive:
    Solo Tor&C.
    Alla fine rimangono solo Tor e analoghi per difendere la propria privacy.
  • xcaso scrive:
    Indiani d' america 2.0
    Analizzare tutto quello che fanno gli utenti del villaggio vicino in °/00.Cmq mi chiedo perché se clicchi su un banner d' advertising giusto per curiosità,tipo T-shirt con musi di animali, poi per mesi ritrovi lo stesso banner in bacheca.Si lo so, è perché non clicco abbastanza sui banner e/o non acquisto. Colpa mia:)
    • Il fuddaro scrive:
      Re: Indiani d' america 2.0
      - Scritto da: xcaso
      Analizzare tutto quello che fanno gli utenti del
      villaggio vicino in
      °/00.

      Cmq mi chiedo perché se clicchi su un banner d'
      advertising giusto per
      curiosità,
      tipo T-shirt con musi di animali, poi per mesi
      ritrovi lo stesso banner in
      bacheca.Pensa se erano T-shirt con culi.
      Si lo so, è perché non clicco abbastanza sui
      banner e/o non acquisto. Colpa
      mia:)Se lo dici tu.
      • xcaso scrive:
        Re: Indiani d' america 2.0
        - Scritto da: Il fuddaro
        Pensa se erano T-shirt con culi.Speravo sul retro T-shirt per quelli. Ma niente, vabbé.
  • Ciribikkol scrive:
    le mandrie vanno guidate e munte
    Lo sappiamo che tutti ci manovrano per il loro tornaconto.Evidentemente sta bene anche a noi, visto che non facciamo niente e per difenderci ci affidiamo a istituzioni che non ci rappresentano e che sono XXXX e camicia con i parassiti che dovrebbero combattere.E' dappertutto così da qualche migliaio di anni.
    • Il fuddaro scrive:
      Re: le mandrie vanno guidate e munte
      - Scritto da: Ciribikkol
      Lo sappiamo che tutti ci manovrano per il loro
      tornaconto.
      Evidentemente sta bene anche a noi, visto che non
      facciamo niente e per difenderci ci affidiamo a
      istituzioni che non ci rappresentano e che sono
      XXXX e camicia con i parassiti che dovrebbero
      combattere.E pensa che alla maggioranza della popolazione MANDRIA piace pure un sacco la cosa!
      E' dappertutto così da qualche migliaio di anni.
Chiudi i commenti