Le cinque leggi dall'AI di Google

Mountain View gioca ancora ai confini della narrativa pensando a un modo per affrontare i potenziali rischi per la società scaturiti dall'intelligenza artificiale sul. Nulla di particolarmente inquietante, ma tanti vasi rotti

Roma – Dopo aver proposto l’introduzione di un “pulsante di spegnimento” per le intelligenze artificiali (IA) troppo avanzate e potenzialmente pericolose per l’uomo, i ricercatori di Google si sono ora occupati dei “problemi concreti” derivati dall’adozione diffusa delle IA prossime venture. Problemi che vengono descritti con termini non allarmistici in scenari del tutto mondani, e che apparentemente non lasciano spazio alla sindrome da Terminator.

Il nuovo studio di Dario Amodei e colleghi intende aprire la discussione sui possibili incidenti provocati dai sistemi automatizzati dotati di IA, dove la parola “incidenti” si traduce con comportamenti dannosi e non intenzionali che possono “emergere da un design mediocre dei sistemi IA del mondo reale.”

In particolare i ricercatori di Google sostengono di aver identificato cinque diversi scenari problematici in cui sarebbe opportuno condurre ulteriori ricerche, vale a dire la necessità di evitare effetti collaterali negativi (come assicurarsi che un robot delle pulizie non rompa un vaso per fare più in fretta), evitare il “reward hacking” (nascondendo ad esempio il disordine piuttosto che ripulire), supervisionare la capacità di apprendimento del robot (così che esso possa capire velocemente da solo dove trovare lo straccio piuttosto di chiederlo ogni volta), esplorare in sicurezza le possibili soluzioni (senza poggiare uno straccio bagnato sulla presa elettrica), e infine la capacità di capire da solo quando un certo ventaglio di abilità non è utile in un ambiente.

Più che alla possibile apocalisse scatenata da una Skynet autocosciente, insomma, Google dimostra di volersi occupare dei robot e delle applicazioni della IA negli scenari di manutenzione in cui questo genere di tecnologia farà prevedibilmente il suo debutto nel prossimo futuro. E in ogni caso per i Terminator ci sarà sempre il kill switch a impedire una catastrofe.

Alfonso Maruccia

La tua email sarà utilizzata per comunicarti se qualcuno risponde al tuo commento e non sarà pubblicato. Dichiari di avere preso visione e di accettare quanto previsto dalla informativa privacy

  • eheheh scrive:
    mica detto che il pc fosse il suo
    mica detto che il pc fosse il suo
  • uTonto scrive:
    usa anche google chrome
    come da oggetto
  • panda rossa scrive:
    Chi e' il padrone del computer?
    Cominciamo con il redarguire tutta quella massa di incapaci e di ignoranti informatici (che gode pure ampia rappresentanza tra i frequentatori di questo forum), che ancora chiama "mio computer/device" quell'oggetto che hanno sicuramente pagato con tanti soldi e che NON SANNO USARE.Dopodiche' parliamo del concetto di proprieta'.La mia penna scrive quando io la prendo in mano e la passo su un foglio.Le mie chiavi aprono le mie serrature e consentono a me di accedere o di precludere ad altri l'acXXXXX.Invece quell'oggetto elettronico che avete pagato coi vostri soldi non e' vostro. Appartiene ad altri padroni.E infatti altri padroni utilizzano INDIPENDENTEMENTE DAL VOSTRO PARERE la loro videocamera, il loro microfono, per carpire i fatti vostri, e usando la vostra rete.Il minimo che dovreste fare e' TACERE.E queste ridicolaggini di coprire la videocamera e il microfono sono solo una ammissione della propria ignoranza.Datemi retta: lasciate perdere i computer se non siete capaci di usarli.Se invece siete capaci di usarli, passate a linux.
    • caccia gli script scrive:
      Re: Chi e' il padrone del computer?
      ok hai cominciato. Ora taci.
      • panda rossa scrive:
        Re: Chi e' il padrone del computer?
        - Scritto da: caccia gli script
        ok hai cominciato. Ora taci.Guarda che quando parlavo di quegli ignoranti informatici che frequentano questo forum, mi riferivo proprio a te e ai tuoi compagni di merenda.Meglio specificare, perche' potresti benissimo fraintendere, e non e' proprio il caso.
    • Mario scrive:
      Re: Chi e' il padrone del computer?
      - Scritto da: panda rossa....
      E queste ridicolaggini di coprire la videocamera
      e il microfono sono solo una ammissione della
      propria
      ignoranza...ah bè se adesso Zuckerberg è ignorante ( di informatica ) allora..
      • panda rossa scrive:
        Re: Chi e' il padrone del computer?
        - Scritto da: Mario
        - Scritto da: panda rossa
        ....

        E queste ridicolaggini di coprire la
        videocamera

        e il microfono sono solo una ammissione della

        propria

        ignoranza.
        ..
        ah bè se adesso Zuckerberg è ignorante ( di
        informatica )
        allora..Se fosse in grado di controllare il computer che gli viene conXXXXX utilizzare, che bisogno avrebbe di coprire la videocamera con una pecetta?
        • ... scrive:
          Re: Chi e' il padrone del computer?
          [img]http://i.imgur.com/FKDdYYf.jpg[/img]
        • aphex_twin scrive:
          Re: Chi e' il padrone del computer?
          Perché passare ad usare Linux , aglio e cappelletti d'alluminio quando basta un pezzettino di nastro adesivo ?Se la porta di casa é storta, raddrizzi la porta non storti la casa. :)
    • Ubaldo scrive:
      Re: Chi e' il padrone del computer?
      Ma vadavialcul
      • panda rossa scrive:
        Re: Chi e' il padrone del computer?
        - Scritto da: Ubaldo
        Ma vadavialculPurtroppo non avendo winsozz, non e' cosi' facile.
  • pierchiodo scrive:
    solo mezzo milione ?
    forse è mezzo miliardo..
  • iRoby scrive:
    Lo spione
    Miiiiii lo spione ha paura di essere spiato?
  • Il fuddaro scrive:
    sempre connessi ma gli altri
    Il famoso motto: SEMPRE CONNESSI, e all condivision, vale solo per gli altri. Cioè le pecore stolte e fessacchione.Lui mica è scemo come le sue masse di pecore rinchiuse nel recinto invisibile.
    • bubba scrive:
      Re: sempre connessi ma gli altri
      - Scritto da: Il fuddaro
      Il famoso motto: SEMPRE CONNESSI, e all
      condivision, vale solo per gli altri. Cioè le
      pecore stolte e
      fessacchione.

      Lui mica è scemo come le sue masse di pecore
      rinchiuse nel recinto
      invisibile.eggia'... e pare anche non amare il sw di posta (instant e non) per macachi... mica avra' paura che la Apple gli legga la sua posta, no? :)
      • Il fuddaro scrive:
        Re: sempre connessi ma gli altri
        - Scritto da: bubba
        - Scritto da: Il fuddaro

        Il famoso motto: SEMPRE CONNESSI, e all

        condivision, vale solo per gli altri. Cioè le

        pecore stolte e

        fessacchione.



        Lui mica è scemo come le sue masse di pecore

        rinchiuse nel recinto

        invisibile.
        eggia'... e pare anche non amare il sw di posta
        (instant e non) per macachi... mica avra' paura
        che la Apple gli legga la sua posta, no?
        :)Questo dovresti chiederglielo al trio macaco: maxsix, berty, e Aphex_maia. Loro sono in contatto diretto con il 'cerchio' di cupertino. ;)
        • aphex_twin scrive:
          Re: sempre connessi ma gli altri
          Io vado sul sicuro , uso gmail da dieci anni e so per certo che la posta mi viene letta, semplicemente me ne sbatto. :)
          • ... scrive:
            Re: sempre connessi ma gli altri
            - Scritto da: aphex_twin
            Io vado sul sicuro , uso gmail da dieci anni e so
            per certo che la posta mi viene letta,
            semplicemente me ne
            sbatto.

            :)povero XXXXXXXX... facendoti spiare, fai spiare tutti quelli a ciu scrivi e che ti scrivono!
          • Il fuddaro scrive:
            Re: sempre connessi ma gli altri
            - Scritto da: ...
            - Scritto da: aphex_twin

            Io vado sul sicuro , uso gmail da dieci anni e
            so

            per certo che la posta mi viene letta,

            semplicemente me ne

            sbatto.



            :)

            povero XXXXXXXX... facendoti spiare, fai spiare
            tutti quelli a ciu scrivi e che ti
            scrivono!Pensa non gliene frega niente di se stesso, e adesso tu vuoi che lui inizia ha preoccuparsi dei suoi interlocutori?Questo e UNO dei motivi per cui disprezzo-e-punisco, quando posso quel tipo di gente che con il suo menefreghismo o lassismo che sia, danneggia indirettamente me o gli altri.
          • aphex_twin scrive:
            Re: sempre connessi ma gli altri
            Tu sei giá abbastanza "danneggiato" di tuo senza alcun intervento esterno. :)
          • aphex_twin scrive:
            Re: sempre connessi ma gli altri
            Hey testa di XXXXXXX , mi dai la tua email che cosí ti sputtano all'interpol che son 10 anni che cerca di prenderti ? :D :D
Chiudi i commenti