Discorso del Santo Padre
Traduzione in inglese
Questa mattina, nel Palazzo Apostolico Vaticano, il Santo Padre Francesco ha ricevuto in Udienza i partecipanti alla Conferenza Internazionale promossa dalla Fondazione Centesimus Annus Pro Pontifice, che ha luogo a Roma, presso il Pontificio Istituto Patristico Augustinianum, dal 20 al 22 giugno 2024 sul tema “L’Intelligenza Artificiale e il paradigma tecnocratico: come promuovere il benessere dell’umanità, la cura per la natura e un mondo di pace”.
Pubblichiamo di seguito il discorso che il Papa ha rivolto ai presenti nel corso dell’incontro:
Discorso del Santo Padre
Gentili Signore e Signori,
Eminenza, Eccellenze, cari fratelli e sorelle, buongiorno!
Saluto e ringrazio la Presidente, Signora Anna Maria Tarantola, e saluto tutti voi che partecipate all’annuale Conferenza Internazionale della Fondazione Centesimus Annus Pro Pontifice. Quest’anno il tema è “L’Intelligenza Artificiale e il paradigma tecnocratico: come promuovere il benessere dell’umanità, la cura per la natura e un mondo di pace”.
È un tema che merita particolare attenzione, perché l’IA influenza in modo dirompente l’economia e la società e può avere impatti negativi sulla qualità della vita, sulle relazioni tra persone e tra Paesi, sulla stabilità internazionale e sulla casa comune.
Come sapete, ho trattato dello sviluppo tecnologico nell’Enciclica Laudato si’ e nell’Esortazione apostolica Laudate Deum, e dell’IA nel Messaggio per la Giornata Mondiale della Pace di quest’anno e, pochi giorni fa, nell’intervento al G7.
Apprezzo che la Centesimus Annus abbia dato ampio spazio a questa materia, coinvolgendo studiosi ed esperti di diversi Paesi e discipline, analizzando le opportunità e i rischi connessi allo sviluppo e all’utilizzo dell’IA, con un approccio trasversale e soprattutto con uno sguardo antropocentrico, e avendo ben presente il pericolo di un rafforzamento del paradigma tecnocratico.
L’analisi multidisciplinare è fondamentale per cogliere tutti gli aspetti attuali e prospettici dell’IA, i vantaggi che può apportare in termini di produttività e crescita e i rischi che può comportare, per individuare le corrette modalità etiche di sviluppo, utilizzo e gestione.
Nel Messaggio per la scorsa Giornata della Pace ho voluto parlare di algoretica, per indicare l’assoluta necessità di uno sviluppo etico degli algoritmi, in cui siano i valori a orientare i percorsi delle nuove tecnologie.
Nel discorso al G7 ho evidenziato gli aspetti critici dell’Intelligenza Artificiale, sottolineando che essa è e deve rimanere uno strumento nelle mani dell’uomo. Come altri utensili-chiave nel corso dei millenni, anche questo attesta la capacità dell’essere umano di andare oltre sé stesso, la sua “ulteriorità”, e può apportare grandi trasformazioni, positive o negative. In questo secondo senso, l’IA potrebbe rafforzare il paradigma tecnocratico e la cultura dello scarto, la disparità tra le nazioni avanzate e quelle in via di sviluppo, la delega alle macchine di decisioni essenziali per la vita degli esseri umani. Ho dunque affermato l’assoluta necessità di uno sviluppo e di un utilizzo etico dell’IA, invitando la politica ad adottare azioni concrete per governare il processo tecnologico in corso nella direzione della fraternità universale e della pace.
In tale contesto, la vostra Conferenza contribuisce ad accrescere la capacità di cogliere gli aspetti positivi dell’IA e di conoscere, mitigare e governare i rischi, dialogando con il mondo della scienza per individuare insieme i limiti da porre all’innovazione se questa va a danno dell’umanità.
Stephen Hawking, noto cosmologo, fisico e matematico, ha detto: «Lo sviluppo dell’IA completa potrebbe significare la fine della razza umana … decollerebbe da sola e si riprogetterà a un ritmo sempre crescente. Gli umani, che sono limitati dalla lenta evoluzione biologica, non potrebbero competere e verrebbero superati» (Intervista alla BBC). È questo che vogliamo?
La domanda di fondo che vi siete posti è questa: a cosa serve l’IA? Serve a soddisfare i bisogni dell’umanità, a migliorare il benessere e lo sviluppo integrale delle persone, oppure serve ad arricchire e aumentare il già elevato potere dei pochi giganti tecnologici nonostante i pericoli per l’umanità? E questa è la domanda di base.
La risposta dipende da tanti fattori e diversi sono gli aspetti da esplorare. Vorrei richiamarne alcuni, come stimolo per vostri ulteriori approfondimenti.
* Va approfondito il delicato e strategico tema della responsabilità delle decisioni prese utilizzando l’IA; questo aspetto interpella vari rami della filosofia e del diritto, oltre a discipline più specifiche.
* Vanno individuati gli opportuni incentivi e una efficace regolamentazione, da un lato per stimolare l’innovazione etica utile al progresso dell’umanità, dall’altro per vietare o limitare gli effetti indesiderati.
* Tutto il mondo dell’educazione, della formazione e della comunicazione dovrebbe avviare un processo coordinato, per accrescere la conoscenza e la consapevolezza di come usare correttamente l’IA e per trasmettere alle nuove generazioni, sin dall’infanzia, la capacità critica nei confronti di tale strumento.
* Vanno valutati gli effetti dell’IA sul mondo del lavoro. Invito i membri della Fondazione Centesimus Annus e quanti partecipano alle sue iniziative a farsi parte attiva, nei rispettivi ambiti, per sollecitare un processo di riqualificazione professionale e l’adozione di forme atte a facilitare il ricollocamento delle persone in esubero presso altre attività.
* Vanno esaminati attentamente gli effetti positivi e negativi dell’IA nel campo della sicurezza e della riservatezza.
* Vanno considerati e approfonditi gli effetti sulla capacità relazionale e cognitiva delle persone, e sui loro comportamenti. Non possiamo accettare che queste capacità vengano ridotte o condizionate da uno strumento tecnologico, cioè da chi ne detiene il possesso e l’uso.
* Infine – ma questo elenco non vuol essere esaustivo – occorre ricordare gli enormi consumi di energia richiesti per sviluppare l’IA, mentre l’umanità sta affrontando una delicata transizione energetica.
Cari amici, è sul fronte dell’innovazione tecnologica che si giocherà il futuro dell’economia, della civiltà, della stessa umanità. Non dobbiamo perdere l’occasione di pensare e agire in un modo nuovo, con la mente, con il cuore e con le mani, per indirizzare l’innovazione verso una configurazione centrata sul primato della dignità umana. Questo non va discusso. Un’innovazione che favorisca sviluppo, benessere e convivenza pacifica e che protegga i più svantaggiati. E ciò richiede un ambiente normativo, economico e finanziario che limiti il potere monopolistico di pochi e consenta allo sviluppo di andare a beneficio di tutta l’umanità.
Per questo auspico che la Centesimus Annus continui ad occuparsi di questa tematica. Mi congratulo per l’avvio della seconda ricerca comune tra la Fondazione e l’Alleanza Strategica di Università Cattoliche di Ricerca (SACRU) sul tema “Intelligenza Artificiale e cura della casa comune: un focus su imprese, finanza e comunicazione”, coordinata dalla Signora Tarantola. Per favore, tenetemi al corrente di questo!
E concludo con una provocazione: siamo sicuri di voler continuare a chiamare “intelligenza” ciò che intelligenza non è? È una provocazione. Pensiamoci, e chiediamoci se l’usare impropriamente questa parola così importante, così umana, non è già un cedimento al potere tecnocratico.
Vi benedico e vi auguro ogni bene per le vostre attività. Continuate a lavorare con coraggio, rischiate! E vi chiedo per favore di pregare per me. Grazie!
[01074-IT.02] [Testo originale: Italiano]
Traduzione in inglese
Ladies and Gentlemen,
Your Eminence, Your Excellency’s, Brothers and sisters, good morning!
I greet with gratitude your President, Dr Anna Maria Tarantola, and I offer a warm welcome to all of you who are taking part in the annual International Conference of the Centesimus Annus Pro Pontifice Foundation, on the theme: “Generative Artificial Intelligence and Technocratic Paradigm: How to Promote the Wellbeing of Humanity, Care for Nature and a World of Peace.”
This topic is one worthy of particular attention since AI is dramatically influencing the economy and social life, and can have a negative impact on the quality of life, interpersonal and international relations, global stability and our common home.
As you know, I dealt with technological development in my Encyclical Letter Laudato Si’ and my Apostolic Exhortation Laudate Deum. I also discussed AI in this year’s World Day of Peace Message and, a few days ago, in my address at the G7.
I am pleased that the Centesimus Annus Foundation is giving ample attention to this issue, engaging scholars and experts from different countries and disciplines in analyzing the opportunities and numerous risks associated with the development and use of AI, through a cross-disciplinary approach and above all from a human-centred standpoint, conscious of the risk of reinforcing the technocratic paradigm.
An interdisciplinary analysis is in fact essential in order to grasp all the current and future aspects of AI, its potential advantages in terms of productivity and growth, as well as the risks it poses, and to develop ethical approaches to its growth, use, and management.
In this year’s World Day of Peace Message, I referred to “algor-ethics” in speaking of the absolute need for an ethical development of algorithms where values guide the development of new technologies.
In my speech at the G7, I highlighted the critical aspects of Artificial Intelligence, emphasizing that it is, and must remain, a tool in human hands. Like other innovative tools through the ages, it demonstrates humanity’s ability to transcend itself, its drive to ever greater achievements, and thus its potential for bringing about great transformations, both positive and negative. In the latter sense, AI could well reinforce the technocratic paradigm and the culture of waste, aggravate disparities between advanced and developing nations, and delegate to a machine essential decisions with regard to human life. For this reason, I posited the absolute need for an ethical development and use of AI, and invited policymakers to adopt concrete actions to direct ongoing technological development towards universal fraternity and peace.
Your Conference, then, is helping to enhance our ability to appreciate the positive aspects of AI and to understand, mitigate, and contain its risks, working in dialogue with the scientific community to identify together the limits to be placed on innovation lest AI develop to the detriment of humanity.
Stephen Hawking, the well-known cosmologist, physicist and mathematician, observed that: “The development of full artificial intelligence could spell the end of the human race. It would take off on its own, and re-design itself at an ever-increasing rate. Humans, who are limited by slow biological evolution, couldn’t compete and would be superseded” (BBC Interview, 2 December 2014). Is this what we want?
The fundamental question you are asking is this: what is AI meant to do? Is it meant to meet the needs of humanity, and to enhance the well-being and integral development of individuals, or is it meant to enrich and increase the power already concentrated in the hands of a few technological giants, despite its threats to humanity? Again, this is the fundamental question.
The answer to this question depends on any number of factors, and a variety of aspects that call for deeper investigation. I would like to mention a few of these, as a stimulus for your continuing research.
* There is a need to explore the delicate and strategic issue of responsibility for the decisions made with the use of AI; this would require the contribution of various branches of philosophy and law, as well as other, more specific disciplines.
* Appropriate incentives and means of effective regulation must be identified, in order on the one hand to stimulate ethical innovation useful for the progress of humanity, and on the other to prohibit or limit undesirable effects.
* The whole sector of education, training, and communication needs to initiate a coordinated process to expand knowledge and awareness about the correct use of AI and to teach future generations, from childhood on, how to evaluate these tools.
* The impact of AI on the job market should also be carefully assessed. I encourage the members of the Centesimus Annus Foundation, and all those taking part in its initiatives, to work actively, within their respective fields, to promote processes of professional retraining and to formulate measures that can facilitate the relocation of individuals displaced by AI to other roles.
* The positive and negative effects of AI in the areas of security and privacy likewise call for careful study.
* We need to take into consideration and research more fully the impact of AI on people’s relational and cognitive abilities and behaviours. We must not allow these capacities to be diminished or conditioned by a technological instrument controlled by those who own it or operate it.
* Lastly, recognizing that this list is far from exhaustive, we should consider the enormous consumption of energy required to develop AI, especially as humanity presently faces a challenging energy transition.
Dear friends, the future of the economy, civilization, and humanity itself is being shaped by technological innovation. We must not pass up the chance to think and act in a new way, using our minds, our hearts and our hands, and thus to steer innovation towards a model that gives priority to human dignity. Unfortunately, this is not discussed. Innovation ought to promote development, well-being, and peaceful coexistence, while protecting the most disadvantaged. This means creating a regulatory, economic, and financial environment capable of limiting the monopolizing power of a few and ensuring that innovation benefits the whole of humanity.
For this reason, I express my hope that the Centesimus Annus Foundation will continue its efforts to address this issue. I congratulate you on your launch of a second joint research project involving your Foundation and the Strategic Alliance of Catholic Research Universities (SACRU), on the topic: “Artificial Intelligence and Care for Our Common Home: A Focus on Business, Finance, and Communication,” coordinated by Professor Tarantola. Please keep me informed about this!
I would like to conclude with a challenge: are we certain that we should continue to call “intelligent” something that in fact is not? This is meant to be a challenge. Let us reflect and ask ourselves if the improper use of this word is actually important, properly “human”, or are we already surrendering to technocratic power.
I offer all of you my blessing and I wish you every success in your work. Continue to work courageously, and take risks! I ask you, please, to pray for me. Thank you!
[01074-EN.02] [Original text: Italian]
[B0519-XX.02]
