Discorso del Santo Padre

Traduzione in lingua inglese

Questa mattina, nel Palazzo Apostolico Vaticano, il Santo Padre Francesco ha ricevuto in Udienza i partecipanti all’Incontro “Minerva Dialogues” promosso dal Dicastero per la Cultura e l’Educazione.

Pubblichiamo di seguito il discorso che il Papa ha rivolto ai partecipanti nel corso dell’Udienza:

Discorso del Santo Padre

Cari amici!

Benvenuti a tutti voi, che siete riuniti a Roma per il vostro incontro annuale. Esso convoca esperti del mondo della tecnologia – scienziati, ingegneri, dirigenti d’azienda, giuristi e filosofi – insieme con rappresentanti della Chiesa – officiali di Curia, teologi e moralisti –, con l’obiettivo di favorire maggiore consapevolezza e considerare l’impatto sociale e culturale delle tecnologie digitali, in particolare dell’intelligenza artificiale. Apprezzo molto questo cammino di dialogo, che, negli ultimi anni, ha permesso di condividere contributi e intuizioni e di fare tesoro della saggezza degli altri. La vostra presenza testimonia l’impegno a garantire un confronto serio e inclusivo a livello globale sull’impiego responsabile di queste tecnologie, un confronto aperto ai valori religiosi. Sono convinto che il dialogo tra credenti e non credenti sulle questioni fondamentali dell’etica, della scienza e dell’arte, e sulla ricerca del significato della vita, sia una strada per la costruzione della pace e per lo sviluppo umano integrale.

La tecnologia è di grande aiuto per l’umanità. Pensiamo agli innumerevoli progressi nei campi della medicina, dell’ingegneria e delle comunicazioni (cfr Enc. Laudato si’, 102). E mentre riconosciamo i benefici della scienza e della tecnica, vediamo in essi una prova della creatività dell’essere umano e anche della nobiltà della sua vocazione a partecipare responsabilmente all’azione creativa di Dio (cfr ibid., 131).

In questa prospettiva, ritengo che lo sviluppo dell’intelligenza artificiale e dell’apprendimento automatico abbia il potenziale per dare un contributo benefico al futuro dell’umanità, non possiamo scartarlo. Sono certo, però, che questo potenziale si realizzerà solo se ci sarà una volontà coerente da parte di coloro che sviluppano le tecnologie per agire in modo etico e responsabile. Conforta in tal senso l’impegno di tanti che lavorano in questi campi per garantire che la tecnologia sia centrata sull’uomo, fondata su basi etiche nella progettazione e finalizzata al bene. Mi rallegra che sia emerso un consenso perché i processi di sviluppo rispettino valori quali l’inclusione, la trasparenza, la sicurezza, l’equità, la riservatezza e l’affidabilità. Accolgo con favore anche gli sforzi delle organizzazioni internazionali per regolamentare queste tecnologie, affinché promuovano un progresso autentico, cioè contribuiscano a lasciare un mondo migliore e una qualità di vita integralmente superiore (cfr ibid., 194).

Non sarà facile raggiungere un accordo in queste aree. Infatti, «l’immensa crescita tecnologica non è stata accompagnata da uno sviluppo dell’essere umano per quanto riguarda la responsabilità, i valori e la coscienza» (ibid., 105). Inoltre, il mondo attuale è caratterizzato da una grande pluralità di sistemi politici, culture, tradizioni, concezioni filosofiche ed etiche e credenze religiose. Le discussioni sono sempre più polarizzate e, in assenza di fiducia e di una visione condivisa di ciò che rende la vita degna, i dibattiti pubblici rischiano di essere polemici e inconcludenti.

Solo un dialogo inclusivo, in cui le persone cercano insieme la verità, può far emergere un vero consenso; e ciò può avvenire se si condivide la convinzione che «nella realtà stessa dell’essere umano e della società […] vi è una serie di strutture di base che sostengono il loro sviluppo e la loro sopravvivenza» (Enc. Fratelli tutti, 212). Il valore fondamentale che dobbiamo riconoscere e promuovere è quello della dignità della persona umana (cfr ibid., 213). Vi invito, pertanto, nelle vostre deliberazioni, a fare della dignità intrinseca di ogni uomo e di ogni donna il criterio-chiave nella valutazione delle tecnologie emergenti, le quali rivelano la loro positività etica nella misura in cui aiutano a manifestare tale dignità e ad incrementarne l’espressione, a tutti i livelli della vita umana.

Mi preoccupa il fatto che i dati finora raccolti sembrano suggerire che le tecnologie digitali siano servite ad aumentare le disuguaglianze nel mondo. Non solo le differenze di ricchezza materiale, che pure sono importanti, ma anche quelle di accesso all’influenza politica e sociale. Ci chiediamo: le nostre istituzioni nazionali e internazionali sono in grado di ritenere le aziende tecnologiche responsabili dell’impatto sociale e culturale dei loro prodotti? C’è il rischio che l’aumento della disuguaglianza possa compromettere il nostro senso di solidarietà umana e sociale? Potremmo perdere il nostro senso di destino condiviso? In realtà, la nostra meta è che la crescita dell’innovazione scientifica e tecnologica si accompagni a una maggiore uguaglianza e inclusione sociale (cfr Videomessaggio alla Conferenza TED a Vancouver, 26 Aprile 2017).

Questo problema della disuguaglianza può essere aggravato da una falsa concezione della meritocrazia che mina la nozione di dignità umana. Il riconoscimento e la ricompensa del merito e dello sforzo umano hanno un fondamento, ma c’è il rischio di concepire il vantaggio economico di pochi come guadagnato o meritato, mentre la povertà di tanti è vista, in un certo senso, come colpa loro. Questo approccio sottovaluta le disuguaglianze di partenza tra le persone in termini di ricchezza, opportunità educative e legami sociali e tratta il privilegio e il vantaggio come conquiste personali. Di conseguenza – in termini schematici – se la povertà è colpa dei poveri, i ricchi sono esonerati dal fare qualcosa (cfr Discorso al mondo del lavoro, Genova, 27 maggio 2017).

Il concetto di dignità umana – questo è il centro – ci impone di riconoscere e rispettare il fatto che il valore fondamentale di una persona non può essere misurato da un complesso di dati. Nei processi decisionali sociali ed economici, dobbiamo essere cauti nell’affidare i giudizi ad algoritmi che elaborano dati raccolti, spesso in modo surrettizio, sugli individui e sulle loro caratteristiche e sui loro comportamenti passati. Tali dati possono essere contaminati da pregiudizi e preconcetti sociali. Tanto più che il comportamento passato di un individuo non dovrebbe essere usato per negargli l’opportunità di cambiare, di crescere e di contribuire alla società. Non possiamo permettere che gli algoritmi limitino o condizionino il rispetto della dignità umana, né che escludano la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona.

Cari amici, concludo ribadendo la convinzione che solo forme di dialogo veramente inclusive possono permettere di discernere con saggezza come mettere l’intelligenza artificiale e le tecnologie digitali al servizio della famiglia umana. La storia biblica della Torre di Babele (cfr Gen 11) è stata spesso utilizzata per mettere in guardia dalle ambizioni eccessive della scienza e della tecnologia. In realtà, la Scrittura ci mette in guardia dall’orgoglio di voler “toccare il cielo” (v. 4), cioè afferrare e impadronirci dell’orizzonte di valori che identifica e garantisce la nostra dignità umana. E sempre, quando c’è questo si finisce in una grave ingiustizia nella stessa società. Nel mito della Torre di Babele, fare un mattone è difficile: fare il fango, la paglia, ammassare, poi cuocere… Quando un mattone cadeva era una perdita grande, si lamentavano tanto: “Abbiamo perso un mattone”. Se cadeva un operaio, nessuno diceva nulla. Questo ci deve far pensare: cosa è più importante? Il mattone o l’uomo o la donna che lavora? Questa è una distinzione che ci deve far pensare. E dopo la Torre di Babele, la conseguente creazione di lingue diverse diventa, come ogni intervento di Dio, una nuova possibilità. Essa ci invita a considerare la differenza e la diversità come una ricchezza, perché l’uniformità non lascia crescere, l’uniformità imposta. Soltanto una certa uniformità disciplinare va bene - può darsi - ma quella imposta non vale. La mancanza di diversità è mancanza di ricchezza, perché la diversità ci impone di imparare insieme gli uni dagli altri e di riscoprire con umiltà il senso autentico e la portata della nostra dignità umana. Non dimentichiamo che le differenze stimolano la creatività, «creano tensione e nella risoluzione di una tensione consiste il progresso dell’umanità» (Enc. Fratelli tutti, 203), quando le tensioni si risolvono su un piano superiore, che non annienta i poli in tensione ma li fa maturare.

Auguro ogni bene per i vostri dialoghi e vi ringrazio per il vostro impegno ad ascoltare e a crescere nella comprensione del contributo di ciascuno. Vi benedico e vi chiedo per favore di pregare per me. Grazie.

[00496-IT.02] [Testo originale: Italiano]

Traduzione in lingua inglese

Dear friends,

I welcome all of you as you gather in Rome for your annual meeting. Your assembly brings together experts from the world of technology – scientists, engineers, business leaders, lawyers and philosophers – and representatives of the Church – curial officials, theologians and ethicists – with the aim of studying and fostering greater awareness of the social and cultural impact of digital technologies, particularly artificial intelligence. I greatly value this ongoing dialogue, which in recent years has allowed you to share contributions and insights and to benefit from the wisdom of others. Your presence is a sign of your commitment to ensuring a serious and inclusive global discussion on the responsible use of these technologies, a discussion open to religious values. I am convinced that dialogue between believers and nonbelievers on fundamental questions of ethics, science and art, and on the search for the meaning of life, is a path to peace and to integral human development.

Technology is, and has been, immensely beneficial to our human family. We think, for example, of the countless advances made in the fields of medicine, engineering and communications (cf. Laudato Si’, 102). In acknowledging the practical benefits of science and technology, we also see them as evidence of the creativity of human beings and the nobility of their vocation to participate responsibly in God's creative action (cf. ibid., 131).

From this perspective, I am convinced that the development of artificial intelligence and machine learning has the potential to contribute in a positive way to the future of humanity; we cannot dismiss it. At the same time, I am certain that this potential will be realized only if there is a constant and consistent commitment on the part of those developing these technologies to act ethically and responsibly. It is reassuring to know that many people in these fields are working to ensure that technology remains human-centred, ethically grounded and directed toward the good. I am also gratified to know that a consensus has emerged on the need for development processes to respect such values as inclusion, transparency, security, equity, privacy and reliability. I likewise welcome the efforts of international organizations to regulate these technologies so that they promote genuine progress, contributing, that is, to a better world and an integrally higher quality of life (cf. ibid., 194).

Reaching a consensus in these areas will be no easy task. Indeed, “our immense technological development has not been accompanied by a development in human responsibility, values and conscience” (ibid., 105). Moreover, our present-day world is marked by a wide variety of political systems, cultures, traditions, philosophical and ethical approaches and religious beliefs. Discussions are increasingly polarized and when public debates lack trust and a shared vision of what makes for the dignity of life they risk being contentious and inconclusive.

True consensus can only be the result of an inclusive dialogue, in which individuals seek the truth together. This is possible if there is a shared conviction that “inherent in the nature of human beings and society there exist certain basic structures to support our development and survival” (Fratelli Tutti, 212). The fundamental value that we must recognize and promote is that of the dignity of the human person (cf. ibid., 213). I encourage you, in your deliberations, to make the intrinsic dignity of every man and every woman the key criterion in evaluating emerging technologies; these will prove ethically sound to the extent that they help respect that dignity and increase its expression at every level of human life.

It is a source of concern to me that evidence to date suggests that digital technologies have increased inequality in our world. Not just differences in material wealth, which are also significant, but also differences in access to political and social influence. Certain questions need to be raised. Are our national and international institutions able to hold technology companies accountable for the social and cultural impact of their products? Is there a risk that increased inequality could undermine our sense of human and social solidarity? Could we lose our sense of having a shared destiny? Our true goal must be for the growth of scientific and technological innovation to be accompanied by greater equality and social inclusion (cf. Video Message to the TED Conference in Vancouver, 26 April 2017).

The problem of inequality can be compounded by a false understanding of meritocracy that undermines the notion of human dignity. There is a sound basis for recognizing and rewarding merit and human effort, but there is also the danger that the economic advantage of the few will be viewed as something earned or deserved, while the poverty of the many is seen as, in some sense, their own fault. This approach fails to take into adequate account people’s unequal starting points with regard to wealth, educational opportunities and social ties, and treats privilege and advantage as personal achievements. As a result – to put the matter plainly – if poverty is seen as the fault of the poor, the rich are exempted from doing anything about it (cf. Meeting with Representatives of the World of Labour, Genoa, 27 May 2017).

The concept of human dignity – and this is central – requires us to recognize and respect the fact that a person’s fundamental value cannot be measured by data alone. In social and economic decision-making, we should be cautious about delegating judgements to algorithms that process data, often collected surreptitiously, on an individual’s makeup and prior behaviour. Such data can be contaminated by societal prejudices and preconceptions. A person’s past behaviour should not be used to deny him or her the opportunity to change, grow and contribute to society. We cannot allow algorithms to limit or condition respect for human dignity, or to exclude compassion, mercy, forgiveness, and above all, the hope that people are able to change.

Dear friends, I would conclude by reiterating my conviction that only truly inclusive forms of dialogue can enable us to discern wisely how to put artificial intelligence and digital technologies at the service of the human family. The Biblical story of the Tower of Babel (cf. Gen 11:19) has often been used as a warning against the excessive pretensions of science and technology. Scripture actually cautions us against the presumption of wanting to “touch the heavens” (cf. v. 4), that is, to seize and usurp the greater horizon of values that connote and safeguard our human dignity. When this happens, it always results in grave injustice within society. The story of the Tower of Babel makes us think of the difficulty of making a brick: it requires mud, straw, and the work of moulding and firing. Whenever a brick fell, it was seen as a great loss; people cried, “We lost a brick!” Yet if a worker fell, no one said anything. That should make us think. What is more important, a brick or a man or woman who works? Something to think about. As a result of the Tower of Babel, the creation of different languages opened up, like all of God’s interventions, a new possibility. As a result, we are invited to see difference and diversity as a source of enrichment, for uniformity, an imposed uniformity, does not allow for growth. A certain uniformity of discipline is good – perhaps – but an imposed uniformity is not. Lack of diversity is a lack of richness, for diversity forces us to learn together from one another and thus humbly to rediscover the authentic meaning and scope of our human dignity. Let us not forget that differences stimulate creativity; “they create tension, and in the resolution of tension lies humanity’s progress” (Fratelli Tutti, 203), whenever tensions are resolved on a higher plan that does not destroy the poles in tension but allows them to mature.

I offer my prayerful good wishes for your dialogues, and I thank you for your efforts to listen to and reflect on each other’s contributions. I give you my blessing and ask you, please, to pray for me. Thank you.

[00496-EN.02] [Original text: Italian]

[B0230-XX.02]