Un team di ricercatori dell’Imperial College di Londra ha pubblicato uno studio che dimostra l’inaffidabilità della tecnologia CSAM (Child Sexual Abuse Material) implementata da Apple per la scansione delle immagini presenti sul dispositivo, prima dell’upload su iCloud. L’algoritmo può essere facilmente ingannato e quindi non rileverebbe il materiale illecito.
La tecnologia CSAM di Apple non funziona
Apple aveva annunciato all’inizio di agosto due funzionalità che dovevano essere incluse in iOS/iPadOS 15. Una di esse prevedeva l’invio di una notifica ai genitori, se il figlio minorenne riceveva un’immagine sessualmente esplicita sull’app Messaggi. La seconda, denominata CSAM Detection, è quella che ha ricevuto le critiche maggiori. Alcuni esperti di sicurezza avevano già evidenziato i difetti della tecnologia, tra cui i falsi positivi e il possibile uso come strumento per la sorveglianza di massa. Apple ha quindi deciso di posticipare il rilascio delle funzionalità.
La tecnologia CSAM prevede l’identificazione delle immagini vietate mediante un confronto con quelle presenti nel database del National Center for Missing and Exploited Children (NCMEC). I ricercatori dell’Imperial College di Londra hanno dimostrato che l’algoritmo usato da Apple può essere ingannato il 99,9% delle volte. Ciò avviene applicando all’immagine uno speciale filtro di hashing che altera l’immagine originale. Il sistema di scansione crede che si tratti di un’immagine diversa, ma in realtà è la stessa.
I ricercatori hanno proposto alcune soluzioni, ma sono tutte irrealizzabili. Un aumento della soglia di rilevamento potrebbe portare ad un numero maggiore di falsi positivi. Altre opzioni avrebbero conseguenze negative per la privacy degli utenti. In pratica, l’attuale implementazione dell’algoritmo non è affidabile.
Ti potrebbe interessare
12 nov 2021