L'UE vuole vietare i deepfake di abusi sessuali sui minori

L'UE vuole vietare i deepfake di abusi sessuali sui minori

L'UE è pronta a considerare reato le immagini create con l'intelligenza artificiale e i deepfake che mostrano abusi sessuali sui minori.
L'UE vuole vietare i deepfake di abusi sessuali sui minori
L'UE è pronta a considerare reato le immagini create con l'intelligenza artificiale e i deepfake che mostrano abusi sessuali sui minori.

La Commissione europea ha annunciato oggi di voler aggiornare la legislazione dell’UE per combattere gli abusi sessuali su minori, tenendo conto dei nuovi sviluppi tecnologici che rendono più facile e pericoloso questo tipo di crimine.

La Commissione vuole vietare le immagini generate dall’intelligenza artificiale e altre forme di deepfake che ritraggono abusi sessuali su minori, anche in livestreaming. Intende inoltre, proibire il possesso e lo scambio dei cosiddetti “manuali di pedofilia”, che istruiscono i potenziali molestatori su come adescare e sfruttare i minori.

Un pacchetto di misure contro i deepfake

Le nuove proposte della Commissione fanno parte di un pacchetto di misure che mira a prevenire gli abusi sessuali su minori, sia online che offline, e a rendere più facile per le vittime denunciare i reati e ottenere assistenza.

Il pacchetto prevede anche di concedere alle vittime il diritto a un risarcimento finanziario e di rafforzare la cooperazione tra gli Stati membri e le autorità di polizia per contrastare gli abusi. La Commissione intende inoltre promuovere una maggiore consapevolezza dei rischi online tra i minori e i genitori, e sostenere le iniziative di educazione e prevenzione.

Le proposte della Commissione si basano sulle attuali norme dell’UE in materia di abusi sessuali su minori. Tale normativa risale al 2011 ed è necessario aggiornare per adeguarla ai cambiamenti tecnologici e sociali. Le proposte includono anche modifiche relative alla segnalazione obbligatoria dei reati, che dovrebbe essere estesa a tutti i professionisti che lavorano con i minori, come insegnanti, medici e assistenti sociali.

Una proposta controversa sulla scansione dei messaggi privati

Le proposte di ieri si aggiungono a una precedente, presentata a maggio 2022. La proposta riguarda la scansione dei messaggi privati per rilevare e segnalare il materiale pedopornografico e le attività di adescamento online. Questa proposta ha suscitato molte polemiche e critiche. Sia i legislatori del Parlamento e del Consiglio, che le organizzazioni per i diritti digitali e la privacy, ritengono che sia una minaccia per la libertà di espressione e la sicurezza dei dati.

La proposta ha anche sollevato dubbi sui legami della Commissione con le lobby tecnologiche per la sicurezza dei minori e sulla sua strategia di comunicazione, che ha utilizzato annunci pubblicitari mirati per promuovere la proposta presso target specifici. La Commissione sostiene che la sua proposta sulla scansione dei messaggi privati sia necessaria per contrastare il fenomeno del materiale pedopornografico online, che è in costante aumento e che sfugge ai controlli delle autorità.

L’attenzione sui rischi dei deepfake e delle immagini generate dall’intelligenza artificiale

Nel frattempo, l’intelligenza artificiale ha fatto passi da gigante, consentendo di generare immagini e video sempre più realistici e difficili da distinguere da quelli reali. Questa tecnologia può essere usata per scopi positivi, ma anche per scopi malvagi, come la produzione di deepfake e di immagini che ritraggono abusi sessuali su minori. Questi contenuti possono essere usati per ricattare, umiliare o manipolare le vittime, o per alimentare la domanda di materiale pedopornografico. Inoltre, possono rendere più difficile per le autorità di polizia identificare le vittime reali e i responsabili degli abusi.

Per questo motivo, la Commissione propone di considerare reato le immagini generate dall’intelligenza artificiale e i deepfake che mostrano abusi sessuali su minori, indipendentemente dal fatto che siano basati su immagini reali o no. Tali contenuti possono causare un danno psicologico e sociale alle vittime e alla società.

Una sfida urgente e complessa

La Commissione afferma che gli abusi sessuali su minori sono una sfida urgente e complessa, che richiede una risposta coordinata e globale. La Commissione dichiara di voler lavorare con gli Stati membri, le istituzioni internazionali, le organizzazioni della società civile e il settore privato per affrontare il problema. Sostiene inoltre che le sue proposte siano in linea con i diritti fondamentali e il principio di proporzionalità, e che rispettino la privacy e la protezione dei dati dei minori e degli adulti.

La Commissione ha anche proposto di incoraggiare gli Stati membri a investire nella sensibilizzazione dei bambini sui rischi della sicurezza online. L’obiettivo è di educare i minori a usare internet in modo responsabile e sicuro, e di fornire loro supporto e assistenza in caso di bisogno.

Il futuro delle proposte legislative

Le proposte legislative della Commissione dovranno essere approvate dai colegislatori dell’UE, cioè il Parlamento e il Consiglio. Il processo potrebbe richiedere del tempo, in vista delle elezioni parlamentari e del cambio di Commissione previsti per il 2024. Inoltre, le proposte potrebbero incontrare resistenze da parte di alcuni Stati membri o gruppi di interesse.

Se le proposte legislative saranno adottate, entreranno in vigore 20 giorni dopo la loro pubblicazione nella Gazzetta Ufficiale dell’UE, come previsto dalla Commissione.

Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il 7 feb 2024
Link copiato negli appunti