Cifratura ostile, un altro passo verso Skynet?

Google insegna alle sue reti neurali a creare e usare un algoritmo unico di cifratura dei messaggi. Così le macchine imparano a non farsi capire da altre macchine, e dall'uomo
Google insegna alle sue reti neurali a creare e usare un algoritmo unico di cifratura dei messaggi. Così le macchine imparano a non farsi capire da altre macchine, e dall'uomo

Milano – È una questione di ricerca scientifica, ma agli occhi degli appassionati di fantascienza non può che suonare sinistro: Google ha pubblicato su Arvix.org un documento che racconta gli esperimenti effettuati per dimostrare la capacità delle reti neurali di creare e usare una chiave crittografica per proteggere le proprie comunicazioni da altre reti neurali , lasciando all’oscuro i loro creatori. Esperimento riuscito, pare.

Quello che hanno fatto i ricercatori è piuttosto semplice: su di un server hanno implementato tre diverse reti neurali chiamate Alice, Bob ed Eve. Ciascuna di queste tre perfettamente funzionante, e con un protocollo di comunicazione interno specifico: Alice doveva scrivere messaggi segreti a Bob, Eve provare ad intercettarli . Alice e Bob condividevano una chiave di decodifica dei messaggi, mentre Eve ne era all’oscuro: messe alla prova, le tre reti hanno fornito risultati per certi versi sorprendenti.

Le reti neurali, spiegano i ricercatori , non sono particolarmente votate alla crittografia: proprio per questo, però, hanno voluto mettere alla prova il meccanismo del machine learning , ovvero hanno spiegato alle reti come effettuare la conversione in un codice crittografato del testo inviato tra di loro senza indicare un protocollo o algoritmo specifico , e sono rimasti a guardare il risultato. I primi 10mila tentativi sono stati infruttuosi : Alice e Bob non riuscivano a parlarsi affatto, oppure Eve riusciva tranquillamente a captare e decifrare i messaggi. Attorno alle 15mila iterazioni le cose hanno cominciato a cambiare.

Alice e Bob si sono parlati, correttamente, in codice. Eve non riusciva più a tenere il passo , potendo decodificare solo in parte la conversazione. Missione compiuta, dunque: insegna a una rete neurale come cifrare i propri messaggi e chatterà tutta la vita. Si tratta senz’altro di una dimostrazione impressionante, ma con alcune precisazioni: il meccanismo di cifratura adottato da Alice e Bob è per lo più oscuro ai loro creatori, e andrebbe vagliato nel dettaglio per comprendere quanto sia efficace in realtà nel proteggere le informazioni oscurate con l’algoritmo elaborato. Non ci sono garanzie che sia un algoritmo efficace e solido, insomma, che sia all’altezza di quelli sviluppati dagli individui a base carbonio o che non possa essere decifrato facilmente da un essere umano con un minimo di impegno.

Tra i prossimi obiettivi dei ricercatori che hanno lavorato a questo documento c’è quello di insegnare ad Alice, Bob ed Eve nuove tecniche di offuscamento e cifratura dei mesaggi, così da rendere più sicuro l’algoritmo generato. Difficile però che diventino dei veri campioni in questo senso, non per ora almeno . Forse è ancora presto per iniziare a temere che le macchine comincino a parlare con una lingua tutta loro, incomprensibile per i loro creatori: di sicuro si tratta di un esperimento interessante, quello di Google, che potrebbe avere risvolti utili per le comunicazioni machine-to-machine e per le transazioni di relativa minore importanza da far viaggiare cifrate magari con chiavi usa e getta. Di sicuro Google pare decisamente interessata a portare avanti ricerche su reti neurali, AI e affini.

Luca Annunziata

Link copiato negli appunti

Ti potrebbe interessare

04 11 2016
Link copiato negli appunti