L'ONU mette al bando i robot-killer

Milano – La quinta edizione della conferenza quinquennale della Convention on Conventional Weapon , tenutasi a Ginevra, passerà alla storia per un accordo sulle armi robotiche: i 123 rappresentanti di altrettante nazioni che aderiscono a questa organizzazione, che nasce sotto l’egida dell’ONU, hanno firmato un protocollo di intesa che le impegna ad affrontare la spinosa questione delle armi che uccidono senza il controllo dell’uomo . Un tema attuale, visto che strumenti di questo tipo sono ormai prossimi a essere introdotti sui campi di battaglia.

Non siamo ancora alla scrittura delle leggi di Asimov sulla robotica, non ci saranno linee di codice che impediscono ai robot di danneggiare, ferire o uccidere gli esseri umani: nel caso dell’accordo stipulato c’è in ballo una moratoria completa di questi strumenti , ovvero delle armi che identificano in modo del tutto autonomo l’obiettivo su cui sparare e che attaccano senza che nessun soldato o essere umano intervenga in un momento qualsiasi per autorizzarle a far fuoco.

Sistemi di questo tipo sono potenzialmente più pericolosi di una semplice arma: il rischio che si “rivoltino” contro i loro creatori non è da liquidare con una semplice scrollata di spalle, senza contare che difficilmente una macchina sarebbe in grado di distinguere in modo efficace tra civili e militari in uno scenario urbano come quelli dove si stanno svolgendo moltissimi conflitti in questi anni . Inoltre, quando c’è un essere umano dietro il mirino e il grilletto di un fucile o di una pistola, c’è anche un individuo responsabile delle proprie azioni: a chi potrebbe essere chiesto conto dell’uccisione di un bambino nel caso in cui fosse un sistema automatico ad aver fatto partire la pallottola letale? Naturalmente, un sistema automatico di questo tipo sarebbe passibile anche di violazioni al software con conseguenze inusitate in termini di sicurezza.

Alla proposta per la discussione sulla moratoria si è unito un peso massimo dello scacchiere internazionale: c’è la Cina tra i 19 firmatari che hanno chiesto di valutare il bando per le armi-robot nel corso del prossimo anno, una buona notizia anche se è indispensabile che anche Stati Uniti e Russia salgano a bordo perché si riesca a raggiungere un risultato pieno. Con l’avallo delle super-potenze la strada di una moratoria di questo tipo sarebbe spianata: il principio sarebbe simile a quello che ha messo fine alla Guerra Fredda con la moratoria sulle testate nucleari, anche se in questo caso si punta a disinnescare il rischio ancor prima che le armi di questo tipo arrivino sul mercato.

Se pure questa moratoria sarà approvata, non è possibile escludere comunque che qualcuno non decida di sviluppare lo stesso la tecnologia dei robot-killer: tuttavia un bando internazionale renderà più difficile il loro impiego, oltre a rendere impossibile la commercializzazione. Se ciò non bastasse, IEEE ha iniziato anche a sviluppare un framework per la realizzazione di intelligenzi artificiali dotate di principi etici : in questo caso sì, ci si avvicina davvero moltissimo al concetto asimoviano di leggi della robotica, e l’importanza che IEEE ha in seno alla comunità scientifica potrebbe costituire il volano giusto affinché questi principi si affermino come pratica consolidata.

Luca Annunziata