“Nel tempo dell’intelligenza artificiale, in cui la dignità umana rischia di essere oscurata da nuove forme di disumanizzazione, abbiamo il dovere urgente di restare profondamente umani, custodendo con amore quella magnifica umanità che ci è stata donata e mostrata nella sua pienezza in Cristo, e che nessuna macchina potrà mai sostituire nel suo splendore”. Lo scrive Papa Leone XIV nell’incipit alla Lettera Enciclica “Magnifica Humanitas” sulla custodia della persona umana nel tempo dell’intelligenza artificiale pubblicata oggi.
Nella Lettera, composta da 5 capitoli e oltre 200 pagine, Papa Leone XIV affronta i temi riguardanti il Vangelo, la Dottrina della Chiesa, la grandezza della Persona umana, la cultura della potenza e della Civiltà dell’Amore nel quale si sofferma sul ruolo dell’Intelligenza artificiale. “Mentre lo sviluppo tecnologico cambia rapidamente linguaggi, relazioni, istituzioni e forme di potere – scrive il Papa -, noi credenti dobbiamo e possiamo scegliere a quale progetto lavorare e con quale stile, per custodire e valorizzare la magnifica umanità che ci è data in dono. Non si tratta di una scelta sul nostro futuro, ma sul nostro presente, perché l’intelligenza artificiale e le altre tecnologie emergenti sono già parte del nostro quotidiano”.
Riferendosi proprio alle innovazioni digitali Leone XIV chiarisce: “le innovazioni possono diventare un grande aiuto per lo sviluppo umano integrale e per la cura della Casa comune. Ma, proprio per il loro potere, possono agire come un acceleratore del paradigma tecnocratico e perciò hanno bisogno di un nuovo quadro spirituale, etico e politico. Più potente non significa necessariamente migliore”. In questo senso per il Papa “il pericolo che l’umanità diventi vittima delle sue stesse conquiste era già stato colto con lucidità da San Paolo VI, quando avvertiva che «i progressi scientifici più straordinari, le prodezze tecniche più strabilianti, la crescita economica più prodigiosa, se non sono congiunte ad un autentico progresso sociale e morale, si rivolgono, in definitiva, contro l’uomo. Per questo il progresso tecnico, in sé prezioso, chiede un discernimento sulla visione antropologica che lo guida e sui fini che persegue. Se lo sviluppo tecnologico procede senza un’adeguata maturazione etica e sociale, può accadere che aumentino i mezzi senza che cresca in pari misura l’umanità: si ‘ha di più’ ma non si ‘è di più’, e la persona rischia di essere valutata soprattutto in base alle prestazioni che garantisce”.
L’Intelligenza Artificiale
Riferendosi, in particolare, all’intelligenza artificiale Leone XIV precisa: “occorre evitare l’equivoco di equiparare questa ‘intelligenza’ a quella umana. Questi sistemi imitano alcune funzioni dell’intelligenza umana. Nel farlo, spesso la superano per velocità e ampiezza di calcolo, offrendo benefici concreti in numerosi campi. E tuttavia, questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze. Possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente. Anche quando tali strumenti vengono presentati come capaci di “apprendere”, il loro modo di farlo è diverso da quello della persona umana. Non è l’esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà; è piuttosto un adattamento statistico a partire da dati e riscontri, che può essere molto efficace, ma non implica una crescita interiore”.
Secondo il Papa “l’uso dell’IA non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà. Decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate completamente a sistemi automatizzati che non conoscono «la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona e possono così produrre nuove forme di scarto. Possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati”. Per questo – prosegue il Pontefice – “affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane. Ciò che viene meno, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte”.
L’IA non è moralmente neutra
Per Leone XIV, quindi, “non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento ‘da usare bene’: introduce già un criterio che contraddice la dignità inalienabile della persona. Per questo, il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano. Perché l’IA rispetti la dignità umana e serva davvero il bene comune, è essenziale che siano chiare le responsabilità in tutti i passaggi: da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete. In molti casi, tuttavia, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori. È qui che diventa decisivo ciò che chiamiamo accountability: la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano”
Secondo il Pontefice “chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo. Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto “allineamento” dell’IA a valori umani – aggiunge -, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi. Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi”.
Disarmare l’IA
Papa Leone XIV si sofferma quindi sulla parola Disarmare. “Disarmare l’IA – scrive – significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale. Uno speciale appello rivolgo a coloro che sviluppano le intelligenze artificiali. L’innovazione tecnologica può essere, in un certo qual modo, una forma umana di partecipazione all’atto divino della creazione. Gli sviluppatori portano dunque un particolare peso etico e spirituale, poiché ogni scelta progettuale esprime una visione dell’umanità. Come l’autore di un’opera artistica o letteraria è tenuto a considerare i valori che essa esprime, così essi sono chiamati a trattare con la dovuta serietà i valori che infondono nei loro progetti: con trasparenza, con responsabilità verso le comunità coinvolte e con attenzione a verificare che ciò che viene coltivato sia davvero un bene”.