Facebook, stop AI per timore Skynet?

Alcuni bot sperimentali addestrati per negoziare con l'essere umano hanno sviluppato un proprio linguaggio incomprensibile all'uomo. Facebook sospende il test - UPDATE

Roma – L’approccio ottimistico sull’ intelligenza artificiale di Mark Zuckerberg e del suo team di ingegneri sembra dover fare i conti con alcune serie preoccupazioni. Se in più occasioni il padre di Facebook ha dichiarato di dissociarsi da quanti, come Elon Musk, prospettano un futuro minacciato dalle AI, fa discutere la decisione di sospendere alcuni test in cui i bot dovevano essere programmati per negoziare con l’uomo. La decisione è avvenuta alla luce della scoperta che i bot hanno iniziato a dialogare tra loro con un linguaggio non comprensibile all’uomo .

Nei laboratori di Facebook AI Research (FAIR), i due “agenti” informatici, addestrati per negoziare avrebbero dovuto dialogare come due persone in carne ed ossa, e attraverso le loro argomentazioni infarcite della giusta dose di machine learning portarsi a casa una vittoria. Quel che è accaduto invece è che i bot hanno iniziato a discutere con un linguaggio apparentemente privo di senso . Gli ingegneri a questo punto hanno capito che proprio come accade tra le persone, nella fase di negoziazione, possono venire sviluppati dei linguaggi specifici molto più efficaci rispetto all’utilizzo di un linguaggio standard . Ma l’impossibilità di decifrare ciò che le macchine dicevanoha posto in allarme il team .


“Dovremmo lasciare che il nostro software faccia lo stesso? Dovremmo permettere che l’AI evolva il suo linguaggio per mansioni specifiche quando dialogano con altro software intelligente? Forse, ciò offrirebbe la possibilità di sviluppare un mondo più interoperabile, un posto più adatto a far sì che un iPhone parli ad un frigorifero che parla con la tua auto senza preoccupazione” – si sono chiesti alcuni membri del team, che sono giunti però alla conclusione che ciò non apporterebbe alcun beneficio al dialogo tra umani e macchine così come potrebbe aprire a scenari complicati dovuti sostanzialmente alla mancanza di conoscenza di quale sia il vero processo che regola il pensiero delle macchine così come il suo grado di profondità. Insomma i rischi sembrerebbero maggiori dei benefici.

I ricercatori sono comunque convinti che l’AI di cui sono dotati i bot potrà apportare benefici per comprendere meglio quelle che sono le intenzioni umane . È questo il vero focus per gli ingegneri di Facebook: non tanto il miglioramento delle performance tecniche, quanto piuttosto far sì che il software riesca ad azzeccare esattamente ciò che la persona vuole (“le macchine dovrebbero essere predisposte per comprendere meglio le parole che diciamo”).

La IA che dovrebbe risolvere numerosi problemi quotidiani e migliorare la vita delle persone ha raggiunto un livello di sviluppo tale per cui l’uomo potrebbe non comprendere ciò che le macchine si dicono . “L’Ai non ha iniziato a spegnere i computer nel mondo o qualcosa di simile, ma ha smesso di usare l’inglese e ha adottato un linguaggio da essa creato” hanno riportato i programmatori curatori del test. E cosa sarebbe se anziché linguaggio fossero le azioni a diventare incomprensibili e incontrollabili? A molti questo scenario evoca la macchina dominatrice Skynet della serie Terminator. E in tale ottica gli avvertimenti di Musk assumerebbero una valenza più sostenuta.

UPDATE : a smorzare il clamore generato dalla notizia che Facebook abbia presumibilmente interrotto il progetto dei suoi bot perché intimorita dalla nascita di una potenziale Skynet interviene Dhruv Batra, Professore alla Georgia Tech e ricercatore persso il Facebook Ai Research (Fair): “Per quanto l’idea che le intelligenze artificiali abbiano inventato un loro linguaggio possa suonare allarmante e inaspettata a chi non è del settore, è un aspetto noto e sul quale c’è una corposa letteratura da decenni. In poche parole, gli agenti in ambienti dove si deve risolvere un compito, troveranno spesso modi non intuitivi per massimizzare la ricompensa. In secondo luogo la modifica dei parametri di un esperimento non significa che abbiamo spento tutto e scollegato le AI. Ogni ricercatore che conclude un esperimento fa esattamente la stessa cosa”.

Mirko Zago

fonte immagine

La tua email sarà utilizzata per comunicarti se qualcuno risponde al tuo commento e non sarà pubblicato. Dichiari di avere preso visione e di accettare quanto previsto dalla informativa privacy

  • fbf4776ea89 scrive:
    Notare che
    Per continuare una serie di commenti iniziata un altro articolo vorrei farvi notare che nonostante il crollo la capitalizzazione di mercato di Twitter è sempre sopra gli 11 miliardi di dollari.Quindi per i mercati finanziari twitter vale più di una azienda come Poste Italiane o di una azienda come Boeing, sempre secondo loro, vale circa una volta e mezzo Unicredit o il doppio di BMW.
  • dottor grana scrive:
    il fatto è che
    il fatto è che dopo un po' la gente si stanca di leggere boiate pazzesche.Per questo neanche @realdonaldtrump riuscirà a "salvare" Twitter.RIP
  • 6 un scrive:
    Utile?
    A chi?
  • iRoby scrive:
    Ma a che serve?
    Mi sono sempre chiesto a cosa serva Twitter.Pochi caratteri per esprimere qualche concetto.Lanciare un proclama, una comunicazione.Direi strumento di profilazione di pensieri e idee facile facile da gestire...
    • Sg@bbio scrive:
      Re: Ma a che serve?
      - Scritto da: iRoby
      Mi sono sempre chiesto a cosa serva Twitter.

      Pochi caratteri per esprimere qualche concetto.
      Lanciare un proclama, una comunicazione.

      Direi strumento di profilazione di pensieri e
      idee facile facile da
      gestire...Se tu fossi mento complottista, scopriresti come twitter è stato utile in varie occasioni per le notizie rapide.
      • iRoby scrive:
        Re: Ma a che serve?
        - Scritto da: Sg@bbio
        Se tu fossi mento complottista, scopriresti come
        twitter è stato utile in varie occasioni per le
        notizie rapide.Twitter ha avuto dalle banche d'affari USA $1 miliardo di prestiti praticamente a fondo perduto senza uno straccio di modello di business.Nessuno da $1 miliardo di prestiti, se non ha qualche intenzione importante.Quella di avere in casa la più grande piattaforma di microblogging, ossia di quelle che tu chiami "notizie rapide".Se tu fossi meno struzzo, forse avresti "The Vision"... Che è la cosa che distingue i visionari della tecnologia (come Jobs), del giornalismo (come Barnard), della politica (come Casaleggio), della psicologia (come Jung, o Scardovelli, o Galimberti), della medicina (come Erhet, Gerson, e tanti altri).Senza "The Vision", non sei niente più che gregge da indottrinare e mungere...
        • Utente sconsolato scrive:
          Re: Ma a che serve?
          E qual è la tua di "The Vision" se posso chiedere?
          • iRoby scrive:
            Re: Ma a che serve?
            Per ora quella che ho avuto è che tu sei il solito utente anonimo provocatore e stupido che bazzica questo forum.Ed è una "The Vision" garantita.
          • Utente sconsolato scrive:
            Re: Ma a che serve?
            Beh, è una "The Vision" un po' ridotta, al massimo ci indottrini una o due pecorelle. Pure idiote. Di solito quelle che si fanno abbindolare da inglesismi che neppure uno studente fuori corso di marketing alla Bocconi utilizzerebbe senza perdere l'ultimo briciolo di dignità. Ma era solo curiosità! Leggendo la lista dei personaggi sopracitati, non capivo se si trattava di sarcasmo o del classico gioco "trova gli intrusi".
          • iRoby scrive:
            Re: Ma a che serve?
            Vedi che non hai capito? Avere "The Vision" significa avere visione tetraedrica della realtà ed è prerogativa di poche persone. Io vedo la realtà in modo vettoriale e geometrico, c'è lo spazio (il corpo mio o quello delle nazioni composte da individui, e dell'intero pianeta, ossia la geografia fisica e politica), il tempo (la storia), la mente (psicologia degli individui), e nella luce evolutiva (le doti dell'Anima e il disegno della Coscienza).Il resto della gente non vede in una o anche più di questi vettori e si fa guidare da una torcia, che di solito sono le dottrine di regime, la propaganda del Sistema.Non può fare altrimenti per la mancanza degli strumenti cognitivi.Ma io credo gli manchino anche gli strumenti spirituali, ossia non hanno anima. Non vedono il disegno generale dell'esistenza.Se ti manca il senso geometrico delle proporzioni i problemi sono solo quelli immediatamente raggiungibili, la geopolitica si ferma al tuo politico locale che ruba, non indaghi a livello internazionale un disegno più ampio di distribuzione del potere per impedire l'evoluzione dell'Anima e della Coscienza.Se non comprendi il vettore tempo la storia si ferma a pochi eventi studiati a scuola, non trovi correlazione tra le dinamiche di quelli di svariate epoche. Vivi giusto per procurarti il cibo da mettere in pentola oggi o al massimo domani.Senza il vettore spirituale il concetto di anima si ferma a quello delle religioni organizzate.Senza la comprensione del vettore della mente, la psicologia di massa viene semplificata in buono e cattivo, al di fuori di noi, non riesci ad interpretare la realtà come specchio di come sei tu dentro.E tutti i diverbi di questi forum si fermano a diatribe tra chi ha avuto un'intuizione dalla Coscienza, e l'indottrinato medio che non ci arriva ma sente il bisogno narcisistico di dirti che ti sbagli, e cerca di riportarti alla sua visione ristretta.Per Sg@bbio i complotti non sono mai esistiti, Giulio Cesare ha fatto harakiri.Gesù fu tradito per qualche soldo, e sia Garibaldi che i Mille furono eroi della patria e non banditi saccheggiatori e stupratori.Come Twitter che è una semplice piattaforma di messaggini per notizie rapide.E non ci vedete dietro la facile profilazione di idee e tendenze, il cui indizio è l'avere sentito la necessità di investire $1 miliardo in questa apparente semplice piattaforma. Per garantircisi la leadership tecnologica del microblogging e tenerne i server in suolo USA dove agiscono la fabbrica del consenso occidentale e le agenzie governative più spudorate del pianeta, al servizio delle oligarchie che si dividono il potere sulle coscienze.Come vedi i vettori geometrici hanno origine da un'unico punto di Coscienza impedire l'evoluzione dell'Anima manifestando un potere che annichilisca l'evoluzione spirituale dei popoli. Da quel punto si dispiega il vettore geografico in USA, quello temporale di questo periodo di tecno-controllo e guerra cibernetica, quello psicologico dell'uso del denaro e il dominio delle oligarchie USA su quelle del pianeta.Quando devo interpretare la realtà mi basta individuare il punto di solito in una manifestazione della Coscienza e dispiegare i vettori di mente/psiche, spazio, tempo.Per me la realtà è geometria. E così che vedo il mondo. Anche perché la fisica oggi dice che è così tutta la realtà, dal movimento di un fotone ai vettori di spin degli elettroni. Sono tutti vettori geometrici.Questo è avere "The Vision". Chi ce l'ha vive. Gli altri semplicemente esistono. Fanno da complemento di arredo dell'esistenza dell'Universo in cui si immergono anime che vivono per fare esperienza di Coscienza.
          • Utente moooolto sconsolato scrive:
            Re: Ma a che serve?
            Sarà che sono solo un complemento di arredo nell'esistenza dell'universo, ma continuo a non capire se mi stai prendendo per il XXXX (spero di sì per il futuro dell'umanità) o altro. Non ci vuole molta immaginazione (e neppure essere complottisti) per comprendere il motivo per cui società come Twitter, Facebook o Google hanno alte quotazioni in borsa nonostante la base di servizi gratutiti offerti.Il povero Sg@bbio ha semplicemente fatto notare che la gratuità non è il solo parametro per il sucXXXXX di un'offerta, prima ancora vengono l'utilità e l'attrattiva(in questo caso ad esempio le notizie rapide). Se Twitter non fosse utile a nessuno e non venisse utilizzato chi cavolo vai a profilare?
    • ... scrive:
      Re: Ma a che serve?
      - Scritto da: iRoby
      Mi sono sempre chiesto a cosa serva Twitter.

      Pochi caratteri per esprimere qualche concetto.
      Lanciare un proclama, una comunicazione.

      Direi strumento di profilazione di pensieri e
      idee facile facile da gestire...serve a profilare, che altro? sfruttando la spinta di centinaia di milioni di emeriti nessuno ad essere qualcuno attraverso un inutile blaterio digitale. tutti vogliono dire "io valgo" ma se non sei un alluce, non ha nessuna utilita' dirlo.
Chiudi i commenti