Papa Leone XIV: AI nelle mani di pochi e nuova forma di schiavitù

Papa Leone XIV ha presentato oggi la sua prima enciclica Magnifica humanitas, firmata il 15 maggio nel 135° anniversario della promulgazione della Rerum novarum di Leone XIII. La lettera di 231 pagine, suddivisa in cinque capitoli (più introduzione e conclusione), tratta una tecnologia ormai onnipresente che avrà un enorme impatto sul futuro dell’umanità, ovvero l’intelligenza artificiale.

AI nelle mani di pochi e nuova forma di schiavitù

I primi due capitoli vertono sulla dottrina sociale della Chiesa, in particolare su fondamenti (dignità delle persone, diritti umani) e principi (bene comune, destinazione universale dei beni, sussidiarietà, solidarietà, giustizia sociale). Il terzo capitolo tratta più in dettaglio il tema dell’intelligenza artificiale, una materia sicuramente nota al Pontefice, essendo laureato in Matematica.

Papa Leone XIV sottolinea innanzitutto che il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo è nelle mani delle Big Tech che stabiliscono condizioni di accesso, regole di visibilità e
possibilità di partecipazione.

Quando un potere di tale portata si concentra in poche mani, tende a farsi opaco e a sfuggire al controllo pubblico, e cresce il rischio di uno sviluppo distorto che genera nuove dipendenze, esclusioni, manipolazioni e disuguaglianze.

Il Pontefice scrive che l’intelligenza artificiale non dovrebbe essere paragonata a quella umana, in quanto non ha un corpo, non ha una coscienza morale, non conosce il significato di amore, amicizia o lavoro. Imita linguaggi e simula comprensione, ma sono solo il risultato dell’elaborazione dei dati.

L’enciclica elenca diversi rischi derivanti dall’uso e abuso dell’AI, tra cui manipolazione dell’informazione e violazione della privacy. Chi progetta e addestra i sistemi AI devono essere ritenuti responsabili delle conseguenze e rimediare ai danni. Papa Leone XIV suggerisce quindi un rallentamento nello sviluppo per consentire verifiche più rigorose e una regolamentazione dell’AI.

Il Pontefice afferma che l’AI dovrebbe essere “disarmata” e sottratta alla logica competitiva.

Disarmare l’AI significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano.

L’AI è inoltre diventata una nuova forma di schiavitù. Non solo quella associata all’uso prolungato della tecnologia, ma anche al lavoro di milioni di esseri umani che sono impiegati nell’etichettatura dei dati, nell’addestramento dei modelli, nella moderazione dei contenuti e soprattutto nell’estrazione delle risorse necessarie alla produzione di chip utilizzati per l’AI.

Nel quinto capitolo viene infine trattato l’uso dell’AI nei conflitti armati.

La Santa Sede ha recentemente osservato che la crescente facilità con cui sistemi d’arma ad autonomia operativa possono essere impiegati rende la guerra più “praticabile” e meno soggetta al controllo umano, contraddicendo il principio che il ricorso alla forza armata debba avvenire come ultima risorsa in caso di legittima difesa. Per questo lo sviluppo e l’uso dell’AI in campo bellico devono essere sottoposti ai più rigorosi vincoli etici, nel rispetto della dignità umana e della sacralità della vita, evitando una corsa agli armamenti.

Secondo il Pontefice, i leader di alcuni Paesi considerano la guerra come un modo efficace di distogliere l’attenzione dai problemi interni e come strumento di gestione cinica delle difficoltà.