Intervento dell’Em.mo Card. Michael Czerny, S.I.
Intervento di P. Riccardo Lufrani, O.P.
Intervento della Prof.ssa Barbara Caputo
Intervento del Prof. Mathieu Guillermin
Alle ore 11.30 di questa mattina, presso la Sala Stampa della Santa Sede, Sala San Pio X, via dell’Ospedale 1, ha avuto luogo la Conferenza Stampa per la presentazione del Messaggio del Santo Padre Francesco per la 57.ma Giornata Mondiale della Pace, che si celebra il 1° gennaio 2024.
Sono intervenuti: l’Em.mo Card. Michael Czerny, S.I., Prefetto del Dicastero per il Servizio dello Sviluppo Umano Integrale; P. Riccardo Lufrani, O.P., Professore di Teologia delle tecno scienze e di Teologia Morale presso l’Università LUMSA di Roma; la Prof.ssa Barbara Caputo, Ordinaria presso il Politecnico di Torino, co-fondatrice e Presidentessa di Focoos.ai; il Prof. Mathieu Guillermin, Associato presso l’Université Catholique de Lyon e coordinatore del progetto internazionale “New Humanism at the time of Neuroscience and Artificial Intelligence”.
Ne riportiamo di seguito gli interventi:
Intervento dell’Em.mo Card. Michael Czerny, S.I.
Testo in lingua originale
Traduzione in lingua italiana
Testo in lingua originale
The Message for the 57th World Day of Peace identifies the challenges that new technologies pose for building a fairer and more fraternal world.
Pope Francis sees artificial intelligence as a "sign of the times": a distinctive characteristic of the present day, changing constantly and forecasting greater transformations in future. The expression “sign of the times” indicates a new human reality that emerges from what’s going on around us, which the Church interprets in the light of the Gospel, and in which we recognize the good news of God’s Kingdom coming towards us. Various judgments may ensue: some positive, some negative; sometimes grateful and laudatory, sometimes disappointed and even denunciatory.
As a sign of the times, artificial intelligence, no less than any other expression of human ingenuity, requires careful scrutiny to make sure that it really serves the common good, protects the inalienable value of the human person, and promotes our fundamental rights. It is part of the ‘human territory’, so to speak, that the Son of God took upon Himself at the moment of the Incarnation: He assumed human nature and made everything human His own, with the exception of sin. Christ’s humanity is not partial, and so the Church insists on applying the same lens of the common good and human dignity to AI as it does to anything else.
Artificial intelligences already exert huge influence and will increasingly do so. We cannot foresee, hardly imagine, the new applications and their impacts on personal and social life, politics and the economy, culture and the environment. Since we do not know where artificial intelligence will take the human family, everyone needs to be better informed about developments as they occur, to speak up and take responsibility.
The Holy Father, no luddite, takes positive note of the contribution made to humanity by scientific and technological progress. These achievements have proven valuable in the service of human persons, their dignity and rights.
At the same time, we should not liken techno-scientific progress to a ‘neutral’ tool such as a hammer: whether a hammer contributes to good or evil depends upon the user’s intentions, not the hammer-maker’s. AI-based digital technologies, on the other hand, ‘build in’ the individual and social values of their makers; subsequently they also reflect the values of their users. Pope Francis decries the ‘technocratic paradigm’, an unscrupulous use of technology, driven exclusively by lust for profit and vested interests. If the technocratic paradigm is the only rule that governs AI, it will end up causing outrageous collateral damage: inequalities, injustices, tensions, conflicts. Thus, artificial intelligence poses challenges that “are technical, but also anthropological, social, educational and political.”
We are most afraid of artificial intelligences for purposes of war. Besides being ever more sophisticated and destructive, they remove human responsibility from the scene of battle. Finally, no one pulls the trigger or drops the bomb, just an algorithm.
Artificial intelligence can also threaten social justice. In the world of work, for example, “knowledge machines” and robotics are wiping out more and more jobs, with major increases in poverty.
As for information, there are new ways to distort both words and images, deliberately to misinform and manipulate, and these seriously endanger civil order and democratic government.
Education, the Holy Father emphasises, is fundamental: forming those who design algorithms and digital technologies to be more responsible themselves; and training everyone, especially young people, to use new technologies consciously and to think critically about their impacts, especially on the poor and the environment.
The supervision and regulation of new technologies is required in all phases, from conception to marketing and actual use. We have only ourselves (humanity) to blame for destructive outcomes and unfavourable repercussions. To govern the development and use of artificial intelligence responsibly, effective regulations are needed within States as well as multilateral agreements and binding treaties. As Pope Francis says regarding the climate crisis, here too “a different framework for effective cooperation is required … to consolidate respect for the most elementary human rights, social rights and the protection of our common home” (Laudate Deum 42).
The 2024 Message implores not only the usual addressees – heads of state, political authorities, leaders in civil society – to exercise co-responsibility at this moment in history, but everyone else too. Don’t leave it to the owners and the developers. All must pay attention and choose well, if we are to hand down a better, more peaceful world to the generations to follow.
A serious reflection on artificial intelligence, together with the urgent theme of peace – is it surprising? Christ was most concerned about the human condition and our most fragile siblings – the very same major hallmarks of Pope Francis’s teaching in words and deeds. No wonder, then, that he would have us begin the year by having us deeply interrogate perhaps the highest-stake gamble of our future.
*****
To help receive this message, understand its theme and explore its implications, the Dicastery for Promoting Integral Human Development is making multimedia aids, information material and theological reflections available. Today I’m happy to launch the video presentation of Pope Francis’s Message entitled "Artificial Intelligence and Peace".
[01930-EN.01] [Original text: English]
Traduzione in lingua italiana
Il Messaggio per la 57.ma Giornata Mondiale della Pace identifica le sfide che le nuove tecnologie pongono per costruire un mondo più giusto e più fraterno.
Papa Francesco scorge nel progresso dell’intelligenza artificiale un “segno dei tempi”: un tratto distintivo del presente, in continuo cambiamento e che lascia presagire maggiori trasformazioni in futuro. L’espressione “segno dei tempi” indica una nuova realtà umana che emerge da ciò che sta accadendo intorno a noi, che la Chiesa interpreta alla luce del Vangelo, e nella quale noi riconosciamo la buona novella del Regno di Dio venirci incontro. Possono derivarne vari giudizi: alcuni positivi, alcuni negativi; a volte di riconoscenza ed elogiativi, a volte di delusione e persino denunciatori.
In quanto segno dei tempi, l’intelligenza artificiale, non meno di qualsiasi altra espressione dell'ingegno umano, necessita di un’attenta disamina per assicurarsi che sia davvero al servizio del bene comune, che protegga il valore inalienabile della persona umana e che promuova i nostri diritti fondamentali. Essa, in un certo senso, fa parte del 'territorio umano' che il Figlio di Dio ha preso su di Sé al momento dell'Incarnazione: Egli ha assunto la natura umana e ha fatto suo tutto ciò che è umano, ad eccezione del peccato. L'umanità di Cristo non è parziale, e quindi la Chiesa insiste nell'applicare all'intelligenza artificiale la stessa lente del bene comune e della dignità umana che applica a qualsiasi altra cosa.
Le intelligenze artificiali esercitano già una grande influenza e continueranno a farlo. Non possiamo prevedere, difficilmente immaginare, le nuove applicazioni e il loro impatto sulla vita personale e sociale, nella politica e nell'economia, nella cultura e sull'ambiente. Dal momento che non sappiamo dove l'intelligenza artificiale condurrà la famiglia umana, tutti hanno bisogno di essere meglio informati sugli sviluppi man mano che si verificano per esprimere pareri e assumersi responsabilità.
Il Santo Padre, che non è un luddista, prende atto positivamente del contributo dato all'umanità dal progresso scientifico e tecnologico. Queste conquiste si sono dimostrate preziose al servizio delle persone, della loro dignità e dei loro diritti.
Al contempo, non dovremmo paragonare il progresso tecno-scientifico a uno strumento “neutrale” come il martello: se un martello contribuisce al bene o al male dipende dalle intenzioni di chi lo usa, non da quelle di chi lo produce. Le tecnologie digitali basate sull'intelligenza artificiale, invece, 'incorporano' i valori individuali e sociali dei loro creatori; successivamente esse riflettono anche i valori dei loro utilizzatori. Papa Francesco denuncia il “paradigma tecnocratico”, un uso spregiudicato della tecnologia, esclusivamente governato dalla brama di profitto e da interessi di parte. Se è il paradigma tecnocratico l’unica regola che governa l’intelligenza artificiale, questo finirà per causare danni collaterali inauditi: disuguaglianze, ingiustizie, tensioni conflitti. Pertanto, “Le sfide che pone [l’intelligenza artificiale] sono tecniche, ma anche antropologiche, educative, sociali e politiche”.
Ciò che più ci spaventa è l’uso delle intelligenze artificiali ai fini della guerra. Oltre ad essere sempre più sofisticate e distruttive, queste tolgono la responsabilità umana dalla scena della battaglia. In definitiva, nessuno preme il grilletto o fa cadere la bomba, solo un algoritmo.
L'intelligenza artificiale può anche minacciare la giustizia sociale. Nel mondo del lavoro, ad esempio, le "macchine della conoscenza" e la robotica stanno eliminando sempre più posti di lavoro, con un forte aumento della povertà.
Per quanto riguarda l'informazione, ci sono nuovi modi per distorcere deliberatamente le parole e le immagini, per disinformare e manipolare, e questi seriamente mettono in pericolo l'ordine civile e il governo democratico.
L'educazione, sottolinea il Santo Padre, è fondamentale: formare coloro che progettano gli algoritmi e le tecnologie digitali affinché siano essi stessi più responsabili; poi educare tutti, soprattutto i giovani, a usare le nuove tecnologie in modo consapevole e al pensiero critico rispetto al loro impatto, soprattutto sui poveri e sull'ambiente.
La supervisione e la regolamentazione delle nuove tecnologie sono necessarie in tutte le fasi, dalla concezione alla commercializzazione, fino all'uso effettivo. Abbiamo solo noi stessi (l’umanità) da incolpare per eventuali risultati distruttivi e ripercussioni sfavorevoli. Per disciplinare lo sviluppo e l'uso dell'intelligenza artificiale in modo responsabile, sono necessarie normative efficaci all'interno degli Stati, nonché accordi multilaterali e trattati vincolanti. Come dice Papa Francesco sulla crisi climatica, anche qui “è necessario un quadro diverso per una cooperazione efficace... per consolidare il rispetto dei diritti umani più elementari, dei diritti sociali e della cura della casa comune”. (Laudate Deum 42).
Il Messaggio 2024 esorta non solo i destinatari abituali - capi di Stato, autorità politiche, leader della società civile - a esercitare la corresponsabilità in questo momento storico, ma anche tutti gli altri. Non lasciate che siano i proprietari e gli sviluppatori a decidere. Tutti devono prestare attenzione e scegliere bene, se vogliamo consegnare alle generazioni future un mondo migliore e più pacifico.
Una riflessione seria sull'intelligenza artificiale, insieme all'urgente tema della pace - è sorprendente? Cristo si preoccupava soprattutto della condizione umana e deifratelli e sorelle più fragili - gli stessi principali segni distintivi dell'insegnamento di Papa Francesco, nelle parole e nei fatti. Non c'è da stupirsi, quindi, che egli abbia voluto farci iniziare l'anno interrogandoci profondamente su quella che forse sarà la scommessa più sfidante del nostro futuro.
*****
Per aiutare ad accogliere questo messaggio, a comprenderne il tema e ad esplorarne le implicazioni, il Dicastero per il Servizio dello Sviluppo Umano Integrale sta mettendo a disposizione sussidi multimediali, materiale informativo e riflessioni teologiche. Oggi sono lieto di lanciare il video di presentazione del Messaggio di Papa Francesco intitolato "Intelligenza Artificiale e Pace".
[01930-IT.01] [Testo originale: Inglese]
Intervento di P. Riccardo Lufrani, O.P.
Con questo Messaggio, il Santo Padre ci pone dinanzi all’ineludibile urgenza di costruire la Civiltà dell’Amore e della Pace, come già esortava il suo santo predecessore Paolo VI nel lontano 1970.[1] Questo invito iniziale riecheggia sempre più nel Magistero dei Pontefici e dei vari dicasteri.[2]
Il messaggio di Papa Francesco si apre riaffermando l’alta dignità che Dio concede all’uomo, chiamandolo a partecipare al governo dell’universo.[3]
Dio ha dotato l’uomo della capacità di trasformare il mondo, come ricorda Francesco citando la Gaudium et Spes.[4] Questa capacità si fa sempre più efficace con il progresso delle scienze e delle tecniche, che accresce il potere di dominio dell’uomo sulla natura e gli permette di costruire sempre più efficacemente la realtà storica.
Da anni Papa Francesco ci avverte che stiamo vivendo un cambiamento d’epoca: l’uomo sta trasformando la realtà storica e naturale in modo radicale.[5] Tuttavia, gli effetti di questa trasformazione non sono univoci: il miglioramento generale delle condizioni di vita dell’umanità, sottolinea infatti il Pontefice, va di pari passo con crescenti destabilizzazioni e disuguaglianze che minano la pacifica convivenza.
Francesco individua nell’Intelligenza Artificiale la tecnologia che più di tutte amplifica la capacità trasformativa del mondo, sottolineandone con precisione impatti positivi e rischi.
Siamo dinanzi a un vero e proprio cambiamento ontologico della realtà umana, che richiede lo sviluppo di una filosofia “artificiale”.[6]
Dopo aver elencato criticità legate all’Intelligenza Artificiale, il Papa ne prospetta l’uso al servizio dello sviluppo umano integrale.
La certezza che “tutto concorre al bene di chi ama Dio”,[7] ci sprona ad accogliere l’invito del Papa a comprendere il ruolo provvidenziale dell’Intelligenza Artificiale, per metterla al servizio del disegno divino di “ricapitolare in Cristo tutte le cose, quelle del cielo come quelle della terra”.[8]
Insieme alla filosofia “artificiale” siamo chiamati, quindi, a sviluppare la teologia delle tecno-scienze, in modo da poter considerare la realtà nella sua unitotalità,[9] ed agire consapevolmente in armonia con l’opera salvifica di Dio. Infatti, le leggi della realtà naturale sono funzionali alla ricapitolazione in Cristo, così come lo sono quelle che governano la realtà storica, anch’esse volute dal Creatore per la stessa unica finalità.
Ma se le scienze naturali producono una conoscenza che conferisce un sempre più grande potere trasformativo, è ancor più necessario studiare le leggi della realtà storica. Altrimenti, come rileva Papa Francesco nel suo Messaggio, si lascia al solo paradigma tecno-scientifico il compito di plasmare la società secondo l’ideologia che anima la sua prassi.[10]
Occorre una metafisica realistico-dinamica che renda conto del funzionamento della realtà storica, fornendo categorie metafisiche realiste che ci permettano di operare nella costruzione della società in armonia con la legge eterna.[11]
Lo strumento interpretativo filosofico-teologico realistico-dinamico individua le leve che governano la realtà storica,[12] attraverso le quali possiamo infondere nella società il contenuto della carità sociale e politica, che si esplicita nei cinque principi della Dottrina Sociale della Chiesa.[13]
Non ci resta che accogliere l’invito del Papa a contribuire, ognuno nel suo ambito, a garantire che i progressi nello sviluppo di forme di Intelligenza Artificiale “servano in definitiva alla causa della fraternità umana e della pace nel mondo,” cioè a costruire la Civiltà dell’Amore e della Pace.
_____________________________
[1] Cf. Paolo VI, Regina coeli, 17maggio 1970
[2] Ad esempio all’udienza generale di Papa Francesco nel cortile di san Damaso del 9 settembre 2020, o nel documento della Congregazione dell’Educazione Cattolica, Educare all’umanesimo solidale. Per costruire una “civiltà dell’amore” a 50 anni dalla Populorum progressio, 16 aprile 2017.
[3] “Sed cum per gubernationem res quae gubernantur sint ad perfectionem perducendae; tanto erit melior gubernatio, quanto maior perfectio a gubernante rebus gubernatis communicatur. Maior autem perfectio est quod aliquid in se sit bonum, et etiam sit aliis causa bonitatis, quam si esset solummodo in se bonum. Et ideo sic Deus gubernat res, ut quasdam aliarum in gubernando causas instituat, sicut si aliquis magister discipulos suos non solum scientes faceret, sed etiam aliorum doctores.” Tommaso d’Aquino, Summa th. I, q. 103, a. 6, c.
[4] Cf. GS 38
[5] “Si può dire che oggi non viviamo un’epoca di cambiamento quanto un cambiamento d’epoca. Le situazioni che viviamo oggi pongono dunque sfide nuove che per noi a volte sono persino difficili da comprendere. Questo nostro tempo richiede di vivere i problemi come sfide e non come ostacoli: il Signore è attivo e all’opera nel mondo.” Papa Francesco, Incontro con i rappresentanti del V convegno nazionale della chiesa italiana discorso del Santo Padre, Cattedrale di Santa Maria del Fiore, Firenze, 10 novembre 2015.
6] Secondo il filosofo Cosimo Accoto, il codice software introduce nella realtà storica sette vettori ontogenetici: l’amplificazione, l’automazione, l’aggiornamento, l’anticipazione, l’alienazione, l’anarchiviazione e l’atmosfericità; per cui “non vivremo più residuati dal passato, ma saremo istanziati dal futuro. Un futuro in cui una filosofia “artificiale” avrà proprio il compito di illuminare, con maggiore consapevolezza, il cammino di questo nuovo Homo Prospectus.” Accoto, C., Il mondo dato, (Egea: Milano, 2017), 165-168.
[7] Rm 8, 28
[8] Ef 1, 10. Il verbo usato è anakefalaiosatai, infinito aoristo di anakephalaioó, ricapitolare, riunire, che ha due sole occorrenze, qui e in Romani 13, 9, dove i comandamenti sono riuniti in “amerai il prossimo tuo come te stesso”. L’uso dell’infinito aoristo indica il processo continuo di tutte le cose che vengono condotte all’unità in Cristo; non è questo solo un evento che si realizza alla fine dei tempi, ma è in corso di realizzazione; la realizzazione sarà completa, per tutta la creazione, alla fine dei tempi. Cf. Van Aerde, T., “The use of οἰκονομία for the missional plan and purpose of God in Ephesians 1:3-14”, Missionalia 43:1 (2015) 50).
[9] Per usare un concetto soloveviano. Cf. Kojève, A., The Religious Metaphysics of Vladimir Solovyov (Palgrave McMillan: Cham, Switzerland, 2018) 22-23.
[10] Il filosofo e teologo Salesiano Don Tommaso Demaria ha sviluppato un sistema metafisico realistico- dinamico, dove mostra come l’ideologia razionalizzata nella prassi, che chiama “ideoprassi”, dà la forma alla società. L’ideoprassi “si identifica … con la prassi e con la razionalità oggettiva interna di questa. L’ideologia quindi, intesa in questo suo senso tecnico ben preciso, non si riduce a una dottrina o a una “visione del mondo”, ma è una realtà: la realtà della prassi razionalizzata e mobilizzata”. Arnaboldi, P., “Costruire”. Uno dei doveri del cristiano come cittadino di oggi. Per una autentica costruzione della “Civiltà dell’amore” come società “organico-dinamica” (Costruire: Bologna, 1981) 49.
[11] “Lex aeterna nihil aliud est quam ratio divinae sapientiae, secundum quod est directiva omnium actuum et motionum.” Tommaso d’Aquino, Summa th. I-II, q. 93, a. 1, c.
[12] La ragione per cui l’ideoprassi dà la forma alla società è che questa, come ente storico, ha una tendenza ad entrare in sintesi religiosa/dinontorganica con un Assoluto-che-salva, mentre la “formattazione” e la riproduzione dell’ideoprassi avvengono attraverso i trascendentali dinamici analitici, le leve della costruzione della realtà storica: l’educatività, la moralità, la missionarietà e la socialità. Cf. Demaria, T., Realismo dinamico. Il “Settimo trattato” della metafisica, in Mantovani, M. (ed) Scritti filosofici e pedagogici inediti (LAS: Roma, 2020) 19-66.
[13] “L'amore deve essere presente e penetrare tutti i rapporti sociali: specialmente coloro che hanno il dovere di provvedere al bene dei popoli «alimentino in sé e accendano negli altri, nei grandi e nei piccoli, la carità, signora e regina di tutte le virtù. La salvezza desiderata dev'essere principalmente frutto di una effusione di carità; intendiamo dire quella carità cristiana che compendia in sé tutto il Vangelo e che, pronta sempre a sacrificarsi per il prossimo, è il più sicuro antidoto contro l'orgoglio e l'egoismo del secolo». Questo amore può essere chiamato «carità sociale» o «carità politica» e deve essere esteso all'intero genere umano.” CDSC n° 581.
[01932-IT.01] [Testo originale: Italiano]
Intervento della Prof.ssa Barbara Caputo
Insegnare Intelligenza Artificiale in questo momento storico è una grande gioia, perché dopo tanti anni di ricerca nei laboratori, questa disciplina sta venendo a maturazione, e sempre più scienza diventa innovazione, entrando nel nostro quotidiano. È un grande privilegio, perché’ la platea a cui si insegna è sempre più ampia: dalle nuove generazioni che si affacciano all’istruzione universitaria ai lavoratori che desiderano e necessitano un aggiornamento di quanto appreso nel loro percorso di formazione, ai cittadini che cercano di capire il senso delle trasformazioni che investono il loro quotidiano, al di là degli entusiasmi e delle paure che spesso accompagnano questo tema.
È anche una grande responsabilità: gli studenti di oggi saranno i protagonisti di domani nella creazione, utilizzo e controllo di una tecnologia sempre più parte del nostro quotidiano. Cosa insegnare, e come, può avere un impatto molto forte sulle loro vite, e sulle nostre. La grande quantità di investimenti pubblici e privati in questo campo fa sì che il mondo di modelli e algoritmi che va sotto il nome di Intelligenza Artificiale si evolva e cambi a grande velocità, con nuovi risultati annunciati e pubblicati con ritmo giornaliero. Una delle sfide è quindi aggiornare prontamente gli argomenti e il materiale di insegnamento, per evitare il rischio di insegnare cose vecchie. Allo stesso tempo, è necessario esercitare il proprio dovere di guida ed introdurre nei corsi solo argomenti che davvero portino nuova conoscenza, senza cedere alle onde emotive, alle mode e agli interessi economici, ormai enormi.
È una enorme responsabilità impegnarsi per garantire uguali opportunità a tutte le persone che si avvicinano all’Intelligenza Artificiale per imparare. Questo significa impegnarsi per garantire risorse computazionali adeguate: insegnare Intelligenza Artificiale, in particolare Intelligenza Artificiale Generativa, e’ profondamente diverso avendo o meno la possibilità di far fare esercitazioni pratiche di implementazione, addestramento e utilizzo degli algoritmi. Il livello di comprensione dell’argomento, e le competenze che è quindi possibile acquisire, cambiano radicalmente avendo o meno la possibilità di farne esperienza pratica. Purtroppo, oggi sono troppo pochi gli atenei nel mondo dove gli studenti possono usufruire di infrastrutture computazionali adeguate per l’Intelligenza Artificiale. I supercalcolatori, necessari per lo sviluppo e l’utilizzo dell’Intelligenza Artificiale Generativa, sono estremamente costosi nella loro costruzione e nel loro utilizzo, a causa dell’alto consumo energetico necessario per il loro funzionamento. Questo li rende merce preziosa, destinata principalmente a sostenere la ricerca e lo sviluppo dei privati a scapito della formazione universitaria, spesso anche quando tali infrastrutture di calcolo sono state create con ingenti finanziamenti pubblici.
Perché l’Intelligenza Artificiale sia strumento di Pace, dobbiamo impegnarci perché questo cambi. Se, come dice il Santo Padre, vogliamo che ‘le voci di tutti siano ascoltate’, dobbiamo fare in modo che ci siano sempre più voci tecniche autorevoli, da ogni parte del mondo, in grado di portare la ricchezza del loro vissuto, della loro storia e della loro cultura, nello sviluppo tecnico dell’Intelligenza Artificiale che verrà. Dobbiamo impegnarci a garantire formazione tecnica di qualità nel campo dell’Intelligenza Artificiale a tutte le giovani donne e uomini, da tutto il mondo, che desiderano mettere a frutto i loro talenti in questa disciplina, con dedizione ed entusiasmo. L’Intelligenza Artificiale sarà vero progresso per l'umanità solo se la sua conoscenza tecnica approfondita cesserà di essere dominio di pochi. Il Santo Padre ci ricorda che la misura della nostra vera umanità è come trattiamo le nostre sorelle e fratelli più svantaggiati. Rendiamo l'Intelligenza Artificiale vero strumento di Pace, rendendola davvero accessibile e comprensibile a tutti, e perciò davvero frutto del lavoro dell'umanità intera.
[01933-IT.01] [Testo originale: Italiano]
Intervento del Prof. Mathieu Guillermin
Pope Francis’ Message for the World Day of Peace is so rich and inspiring that it proved very challenging to highlight only few focal points.
A first key element I nevertheless would like to put forward is that Pope Francis share with us a message of hope as well as a call for commitment and responsibility. A message of hope as, far from any technophobic rejection, it recognizes the great positive potential of AI. But also a call for commitment and responsibility as nothings warrants a priori AI outcomes will be beneficial. It is our collective responsibility to acknowledge “the ethical goad” (Laudate Deum 29), to ensure AI “contributes to greater order in human society and greater fraternal communion and freedom” and serves “our best human potential and our highest aspirations, not compete with them.”
Among the many key avenues for reflection and warnings Pope Francis’ message puts forward in this respect (notably on themes such as explainability, responsibility or work automation), I’d like to emphasize the call to resist any reductive view on human life and more broadly on reality. Excessive and exclusive focuses on specific dimensions only deeply threaten ethical reflection. In this line of thought, Pope Francis alerts us about the risk of “losing control over ourselves,” through a kind of “technological dictatorship” that may arise from “an obsessive desire to control everything.” This risk “is favoured by the technocratic system, which allies the economy with technology and privileges the criterion of efficiency, tending to ignore anything unrelated to its immediate interests.” Obviously, we must control as much as possible our technological processes, ensure they are reliable, especially those involved in automation as AI algorithms. However, this effort towards ever more control should not blind us to the necessity to reflect upon ends and intentions. The trap may even prove more pernicious. In fact, the “technocratic paradigm inspired by a Promethean presumption of self-sufficiency,” which feeds our aversion to possible limitations in our powers of control, can also foster our reluctance to recognize limits in our powers of knowledge (at least in a measurable and quantifiable way). As Pope Francis writes: “Not everything can be predicted, not everything can be calculated; in the end, “realities are greater than ideas”.11 No matter how prodigious our calculating power may be, there will always be an inaccessible residue that evades any attempt at quantification.”
Focusing exclusively on the measurable undermines our ability to think properly what matters in our lives, and thereby our ability to develop and use AI technology properly. It is our duty to enrich our ethical reflection, to make room for various complementary manners of considering issues at hand. As Pope Francis states: “Fundamental respect for human dignity demands that we refuse to allow the uniqueness of the person to be identified with a set of data.” Algorithms may be able to reliably predict diagnoses based on medical images, levels of risk in banking or judicial matters, etc., but we can never integrally and uncritically rely on them. In many places, our human ability to go beyond the measurable and the computable is indispensable. We must always secure room for lively reflection on our values and how to apply them. Algorithms may be able to predict what a person will desire, what will catch her attention (for recommendation and nudging). But they should never be allowed to imprison persons in their profiles, to deny them the opportunity to be presented with divergent and sometimes destabilizing information, the opportunity of learning to value the gap between a desire and its satisfaction. We must never “eliminate the possibility of an individual changing and leaving his or her past behind.” In the same spirit, deep learning algorithms may become able to provide adequate answers to students and schoolchildren as well as to (better) predict natural phenomena without any theory of them (as with Google’s Graphcast for weather forecast). But are predicting and correctly answering the sole valuable purposes?
Ethical reflection upon AI technology proves particularly challenging, notably because questions that are very philosophical begin to convey extremely tangible and practical implications. Do we do science only to control or do we also want to understand? Do we go to school only to learn to ensure a given function, to provide the right outputs in response to given inputs? Is the purpose of life to satisfy as fast as possible our superficial desires? Seeking maximal efficiency through AI in a narrow perspective could be catastrophic. We must rise to the challenge of exploring these questions in their multiple dimensions.
(Unless explicitly stated otherwise, quotations are from “Artificial Intelligence and Peace,” the message of his holiness Pope Francis for the World Day of Peace (2024).)
[01931-EN.01] [Original text: English]
[B0887-XX.02]
