1999, la rivolta delle macchine

Scenari da fantascienza, robot che prendono di mira l'uomo. È già realtà, è già successo: succederà ancora, se non si farà qualcosa per impedirlo

Roma – Macchine impazzite che travolgono esseri umani, preda del delirio della loro intelligenza artificiale. Non si tratta di un best seller del compianto Sir Arthur Clarke, o di una sceneggiatura di James Cameron: il primo caso di computer fuori controllo che causa la morte di un gruppo di persone risale al 1999, e più precisamente all’ incidente del 10 giugno a Bellingham (Washington, USA), quando una conduttura che trasportava gasolio si ruppe riversando centinaia di migliaia di litri di carburante e causando un incendio in cui morirono tre persone.

Sono queste le conclusioni a cui è giunto Joe Weiss , esperto di sicurezza informatica, che in un seminario tenuto in questi giorni alla RSA Conference 2008 ha spiegato di aver “analizzato le registrazioni di oltre 90 incidenti avvenuti nelle industrie di tutto il mondo”, e di aver stabilito che a causare quel terribile incendio nello stato del nord-ovest hanno certo contribuito i danni fisici alla conduttura e una valvola difettosa, ma che la causa principale del problema fu il sistema informatico che controllava l’impianto.

Un blocco dei computer , iniziato trenta minuti prima della tragedia, impedì ai tecnici di provvedere ad una procedura di emergenza per diminuire la pressione nella conduttura. Una eventualità che oggi, secondo Weiss, si sarebbe potuta evitare: secondo l’esperto, la sicurezza di questo tipo di impianti industriali dipende dall’ approvazione di uno standard , il NIST 800-53 , che dovrebbe essere in grado di garantire che tragedie del genere non si ripetano.

Se il NIST 800-53 venisse approvato quest’anno, come previsto, diventerebbe automaticamente obbligatorio per tutte le agenzie federali. L’auspicio di Weiss è che anche i privati, le grandi aziende, decidano di adottarlo: con la sua introduzione diventerebbero una realtà registri di sistema non modificabili, password individuali, e account utente con poteri limitati alle mansioni specifiche. Tutte precauzioni che non c’erano a Bellingham , e che oltre ad aver causato morti e feriti, hanno impedito di stabilire se ci fossero responsabilità del personale presente nel centro di controllo dell’impianto.

Weiss, che un tempo era un esperto progettista dei sistemi di controllo, è preoccupato dalla situazione: “Fino ad otto anni fa la mia vita consisteva nel realizzare sistemi di controllo usabili ed efficienti e, nel contempo, estremamente vulnerabili: ed è proprio quanto trovereste ancora oggi in moltissime realtà industriali. Il problema è che non siamo nel 1999, ormai siamo nel 2008”.

Il rischio, come dimostra la conferenza tenuta da Ira Winkler durante la stessa manifestazione, è che fatti del genere possano ripetersi . L’ allarme è stato lanciato da tempo dagli addetti ai lavori. Ai computer sono sempre più spesso affidate mansioni importanti, che potenzialmente possono mettere in gioco moltissime vite umane. E quando sbagliano , gli effetti possono essere devastanti.

Luca Annunziata

La tua email sarà utilizzata per comunicarti se qualcuno risponde al tuo commento e non sarà pubblicato. Dichiari di avere preso visione e di accettare quanto previsto dalla informativa privacy

  • MAF scrive:
    materiale promo
    Vorrei chiedere a chi ha scritto l'articolo se ella trova etico che chi riceve materiale a titolo gratuito, e per finalità specifiche ( vedi recensione del medesimo ,) dopo aver assolto al proprio compito si venda tale materiale.Lo scrivo dal punto di vista di chi per anni ha recensito ( nel mio caso videogame ) e per anni ha ricevuto comodamente a casa sua, o in redazione, scatoloni di prodotti ( promo - beta - retail ).Non si parla di materiale "regalato" con finalità oscure. O perchè uno è bello. Si parla di materiale "fornito" per poterne fare una valutazione. Materiale spesso chiaramente contrassegnato come "fuori commercio".In questo contesto la posizione meno etica è quella di chi vuole lucrare su questo materiale, magari rivendendolo a prezzi maggiorati rispetto alle copie retail perché "rarità".
    • Caterina Marini scrive:
      Re: materiale promo
      Beh, un CD lo mandano a un dj con lo scopo di aumentare le vendite, è marketing. Tutto regolare ma cosa c'entra l'etica?
    • Tealc scrive:
      Re: materiale promo
      in effetti hai ragione.posso capire ad esempio che sbuchi su internet il primo demo cd di un gruppo poi diventato famoso o registrazioni occasionali, ad es. il primo demo degli artic monkeys o le canzoni dei dik dik incise da battisti per prova, ma rivendersi direttamente il materiale ricevuto per recensirlo al lavoro non è corretto.
    • CCC scrive:
      Re: materiale promo
      - Scritto da: MAF
      Vorrei chiedere a chi ha scritto l'articolo se
      ella trova etico che chi riceve materiale a
      titolo gratuito, e per finalità specifiche ( vedi
      recensione del medesimo ,) dopo aver assolto al
      proprio compito si venda tale
      materiale.1°) il materiale mi viene forse dato per scopi "etici"? no. per fare marketing... l'etica qui proprio non c'entra.2°) il materiale mi viene dato in prestito? lo devo forse restituire?no. allora è mio. e se è mio ci faccio quello che mi pare. compreso rivendermelo.
      Lo scrivo dal punto di vista di chi per anni ha
      recensito ( nel mio caso videogame ) e per anni
      ha ricevuto comodamente a casa sua, o in
      redazione, scatoloni di prodotti ( promo - beta -
      retail
      ).

      Non si parla di materiale "regalato" con finalità
      oscure. O perchè uno è bello. Si parla di
      materiale "fornito" per poterne fare una
      valutazione. Materiale spesso chiaramente
      contrassegnato come "fuori
      commercio".1°) fornito? cosa vuol dire? lo devi restituire? no? allora è tuo.2°) finalità oscure? non direi: marketing a tutto vantaggio di chi te lo ha fornito.3°) valutarlo / recensirlo = fare pubblicità al produttore.l'hai fatto per anni... scommetto che le recensioni erano tutte favorevoli...4°) contrassegno "fuori commercio"?una pratica molto discutibile...tipo che domani mi pago il pranzo con 10 euro su cui scrivo "banconota fuori commercio" e poi pretendo che il ristoratore non li possa più usare...
      In questo contesto la posizione meno etica è
      quella di chi vuole lucrare su questo materiale,
      magari rivendendolo a prezzi maggiorati rispetto
      alle copie retail perché
      "rarità".no. lo può rivendere come e quando gli pare perché, semplicemente, è roba sua.
    • Skywalker scrive:
      Re: materiale promo
      Di quello che vuoi, ma tu gli hai REGALATO il materiale, per giunta sperando che ti facesse pubblicità.Da che mondo e mondo, nemmeno le ex-fidanzate restituiscono i regali...
  • Alluce scrive:
    e le nostre traduzioni-trucco?
    Ci sono opere i cui diritti stanno per scadere (stanno = tra 10 anni) ... e allora noi in Italia che facciamo? Ne facciamo fare una SECONDA TRADUZIONE, così quella che circola è l'ultima e se qualcuno per caso si azzarda a trascriverla (ad esempio su wikisource/wikibooks oppure liber liber oppure libreremo ) è in violazione del diritto.Diritto di chi?Del traduttore.Ora bisognerebbe chiedere quanto pagano questi traduttori... e poi chiedetevi come mai allora tutti i vostri amici che studiano lingue NON stanno facendo i traduttori. Che si diventi ricchissimi? Che ci siano solo un paio di traduttori in italia che traducono tutto?Oppure sono sottopagati vitadinferno annidistudioperniente ecc?;)Informatevi direttamente con la gente che conoscete, gente seria che approfondisce.
    • Funz scrive:
      Re: e le nostre traduzioni-trucco?
      Mi sembra una scemata, basterebbe fare attenzione e divulgare la prima traduzione.Comunque è una presa per i fondelli.
    • Tealc scrive:
      Re: e le nostre traduzioni-trucco?
      - Scritto da: Alluce
      Che ci siano solo un paio di
      traduttori in italia che traducono
      tutto? ...la seconda che hai dettoQuelo a parte gli scherzi è tristemente così.oltre a chiedere in giro basta guardare di chi sono le traduzioni dalle varie lingue, è scritto su tutti i testi.
  • emmeesse scrive:
    Che c'e' di strano?
    Questi signori pretendono di rimanere proprietari pure di quello che vendono...
Chiudi i commenti