Messaggio del Santo Padre

Traduzione in lingua francese

Traduzione in lingua inglese

Traduzione in lingua tedesca

Traduzione in lingua spagnola

Traduzione in lingua portoghese

Traduzione in lingua polacca

Traduzione in lingua araba

Pubblichiamo di seguito il Messaggio del Santo Padre per la 58^ma Giornata Mondiale delle Comunicazioni Sociali che quest’anno si celebra, in molti Paesi, il 12 maggio 2024 sul tema: Intelligenza artificiale e sapienza del cuore: per una comunicazione pienamente umana:

Messaggio del Santo Padre

Intelligenza artificiale e sapienza del cuore:

per una comunicazione pienamente umana

Cari fratelli e sorelle!

L’evoluzione dei sistemi della cosiddetta “intelligenza artificiale”, sulla quale ho già riflettuto nel recente Messaggio per la Giornata Mondiale della Pace, sta modificando in modo radicale anche l’informazione e la comunicazione e, attraverso di esse, alcune basi della convivenza civile. Si tratta di un cambiamento che coinvolge tutti, non solo i professionisti. L’accelerata diffusione di meravigliose invenzioni, il cui funzionamento e le cui potenzialità sono indecifrabili per la maggior parte di noi, suscita uno stupore che oscilla tra entusiasmo e disorientamento e ci pone inevitabilmente davanti a domande di fondo: cosa è dunque l’uomo, qual è la sua specificità e quale sarà il futuro di questa nostra specie chiamata homo sapiens nell’era delle intelligenze artificiali? Come possiamo rimanere pienamente umani e orientare verso il bene il cambiamento culturale in atto?

A partire dal cuore

Innanzitutto conviene sgombrare il terreno dalle letture catastrofiche e dai loro effetti paralizzanti. Già un secolo fa, riflettendo sulla tecnica e sull’uomo, Romano Guardini invitava a non irrigidirsi contro il “nuovo” nel tentativo di «conservare un bel mondo condannato a sparire». Al tempo stesso, però, in modo accorato ammoniva profeticamente: «Il nostro posto è nel divenire. Noi dobbiamo inserirvici, ciascuno al proprio posto (…), aderendovi onestamente ma rimanendo tuttavia sensibili, con un cuore incorruttibile, a tutto ciò che di distruttivo e di non umano è in esso». E concludeva: «Si tratta, è vero, di problemi di natura tecnica, scientifica, politica; ma essi non possono esser risolti se non procedendo dall’uomo. Deve formarsi un nuovo tipo umano, dotato di una più profonda spiritualità, di una libertà e di una interiorità nuove»^[1].

In quest’epoca che rischia di essere ricca di tecnica e povera di umanità, la nostra riflessione non può che partire dal cuore umano^[2]. Solo dotandoci di uno sguardo spirituale, solo recuperando una sapienza del cuore, possiamo leggere e interpretare la novità del nostro tempo e riscoprire la via per una comunicazione pienamente umana. Il cuore, inteso biblicamente come sede della libertà e delle decisioni più importanti della vita, è simbolo di integrità, di unità, ma evoca anche gli affetti, i desideri, i sogni, ed è soprattutto luogo interiore dell’incontro con Dio. La sapienza del cuore è perciò quella virtù che ci permette di tessere insieme il tutto e le parti, le decisioni e le loro conseguenze, le altezze e le fragilità, il passato e il futuro, l’io e il noi.

Questa sapienza del cuore si lascia trovare da chi la cerca e si lascia vedere da chi la ama; previene chi la desidera e va in cerca di chi ne è degno (cfr Sap 6,12-16). Sta con chi accetta consigli (cfr Pr 13,10), con chi ha il cuore docile, un cuore che ascolta (cfr 1 Re 3,9). Essa è un dono dello Spirito Santo, che permette di vedere le cose con gli occhi di Dio, di comprendere i nessi, le situazioni, gli avvenimenti e di scoprirne il senso. Senza questa sapienza l’esistenza diventa insipida, perché è proprio la sapienza – la cui radice latina sapere la accomuna al sapore – a donare gusto alla vita.

Opportunità e pericolo

Non possiamo pretendere questa sapienza dalle macchine. Benché il termine intelligenza artificiale abbia ormai soppiantato quello più corretto, utilizzato nella letteratura scientifica, machine learning, l’utilizzo stesso della parola “intelligenza” è fuorviante. Le macchine possiedono certamente una capacità smisuratamente maggiore rispetto all’uomo di memorizzare i dati e di correlarli tra loro, ma spetta all’uomo e solo a lui decodificarne il senso. Non si tratta quindi di esigere dalle macchine che sembrino umane. Si tratta piuttosto di svegliare l’uomo dall’ipnosi in cui cade per il suo delirio di onnipotenza, credendosi soggetto totalmente autonomo e autoreferenziale, separato da ogni legame sociale e dimentico della sua creaturalità.

In realtà, l’uomo da sempre sperimenta di non bastare a sé stesso e cerca di superare la propria vulnerabilità servendosi di ogni mezzo. A partire dai primi manufatti preistorici, utilizzati come prolungamenti delle braccia, attraverso i media impiegati come estensione della parola, siamo oggi giunti alle più sofisticate macchine che agiscono come ausilio del pensiero. Ognuna di queste realtà può però essere contaminata dalla tentazione originaria di diventare come Dio senza Dio (cfr Gen 3), cioè di voler conquistare con le proprie forze ciò che andrebbe invece accolto come dono da Dio e vissuto nella relazione con gli altri.

A seconda dell’orientamento del cuore, ogni cosa nelle mani dell’uomo diventa opportunità o pericolo. Il suo stesso corpo, creato per essere luogo di comunicazione e comunione, può diventare mezzo di aggressività. Allo stesso modo ogni prolungamento tecnico dell’uomo può essere strumento di servizio amorevole o di dominio ostile. I sistemi di intelligenza artificiale possono contribuire al processo di liberazione dall’ignoranza e facilitare lo scambio di informazioni tra popoli e generazioni diverse. Possono ad esempio rendere raggiungibile e comprensibile un enorme patrimonio di conoscenze scritto in epoche passate o far comunicare le persone in lingue per loro sconosciute. Ma possono al tempo stesso essere strumenti di “inquinamento cognitivo”, di alterazione della realtà tramite narrazioni parzialmente o totalmente false eppure credute – e condivise – come se fossero vere. Basti pensare al problema della disinformazione che stiamo affrontando da anni nella fattispecie delle fake news^[3] e che oggi si avvale del deep fake, cioè della creazione e diffusione di immagini che sembrano perfettamente verosimili ma sono false (è capitato anche a me di esserne oggetto), o di messaggi audio che usano la voce di una persona dicendo cose che la stessa non ha mai detto. La simulazione, che è alla base di questi programmi, può essere utile in alcuni campi specifici, ma diventa perversa là dove distorce il rapporto con gli altri e la realtà.

Della prima ondata di intelligenza artificiale, quella dei social media, abbiamo già compreso l’ambivalenza toccandone con mano, accanto alle opportunità, anche i rischi e le patologie. Il secondo livello di intelligenze artificiali generative segna un indiscutibile salto qualitativo. È importante quindi avere la possibilità di comprendere, capire e regolamentare strumenti che nelle mani sbagliate potrebbero aprire scenari negativi. Come ogni altra cosa uscita dalla mente e dalle mani dell’uomo, anche gli algoritmi non sono neutri. Perciò è necessario agire preventivamente, proponendo modelli di regolamentazione etica per arginare i risvolti dannosi e discriminatori, socialmente ingiusti, dei sistemi di intelligenza artificiale e per contrastare il loro utilizzo nella riduzione del pluralismo, nella polarizzazione dell’opinione pubblica o nella costruzione di un pensiero unico. Rinnovo dunque il mio appello esortando «la Comunità delle nazioni a lavorare unita al fine di adottare un trattato internazionale vincolante, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme»^[4].Tuttavia, come in ogni ambito umano, la regolamentazione non basta.

Crescere in umanità

Siamo chiamati a crescere insieme, in umanità e come umanità. La sfida che ci è posta dinanzi è di fare un salto di qualità per essere all’altezza di una società complessa, multietnica, pluralista, multireligiosa e multiculturale. Sta a noi interrogarci sullo sviluppo teorico e sull’uso pratico di questi nuovi strumenti di comunicazione e di conoscenza. Grandi possibilità di bene accompagnano il rischio che tutto si trasformi in un calcolo astratto, che riduce le persone a dati, il pensiero a uno schema, l’esperienza a un caso, il bene al profitto, e soprattutto che si finisca col negare l’unicità di ogni persona e della sua storia, col dissolvere la concretezza della realtà in una serie di dati statistici.

La rivoluzione digitale può renderci più liberi, ma non certo se ci imprigiona nei modelli oggi noti come echo chamber. In questi casi, anziché accrescere il pluralismo dell’informazione, si rischia di trovarsi sperduti in una palude anonima, assecondando gli interessi del mercato o del potere. Non è accettabile che l’uso dell’intelligenza artificiale conduca a un pensiero anonimo, a un assemblaggio di dati non certificati, a una deresponsabilizzazione editoriale collettiva. La rappresentazione della realtà in big data, per quanto funzionale alla gestione delle macchine, implica infatti una perdita sostanziale della verità delle cose, che ostacola la comunicazione interpersonale e rischia di danneggiare la nostra stessa umanità. L’informazione non può essere separata dalla relazione esistenziale: implica il corpo, lo stare nella realtà; chiede di mettere in relazione non solo dati, ma esperienze; esige il volto, lo sguardo, la compassione oltre che la condivisione.

Penso al racconto delle guerre e a quella “guerra parallela” che si fa tramite campagne di disinformazione. E penso a quanti reporter sono feriti o muoiono sul campo per permetterci di vedere quello che i loro occhi hanno visto. Perché solo toccando con mano la sofferenza dei bambini, delle donne e degli uomini, si può comprendere l’assurdità delle guerre.

L’uso dell’intelligenza artificiale potrà contribuire positivamente nel campo della comunicazione, se non annullerà il ruolo del giornalismo sul campo, ma al contrario lo affiancherà; se valorizzerà le professionalità della comunicazione, responsabilizzando ogni comunicatore; se restituirà ad ogni essere umano il ruolo di soggetto, con capacità critica, della comunicazione stessa.

Interrogativi per l’oggi e il domani

Alcune domande sorgono dunque spontanee: come tutelare la professionalità e la dignità dei lavoratori nel campo della comunicazione e della informazione, insieme a quella degli utenti in tutto il mondo? Come garantire l’interoperabilità delle piattaforme? Come far sì che le aziende che sviluppano piattaforme digitali si assumano le proprie responsabilità rispetto a ciò che diffondono e da cui traggono profitto, analogamente a quanto avviene per gli editori dei media tradizionali? Come rendere più trasparenti i criteri alla base degli algoritmi di indicizzazione e de-indicizzazione e dei motori di ricerca, capaci di esaltare o cancellare persone e opinioni, storie e culture? Come garantire la trasparenza dei processi informativi? Come rendere evidente la paternità degli scritti e tracciabili le fonti, impedendo il paravento dell’anonimato? Come rendere manifesto se un’immagine o un video ritraggono un evento o lo simulano? Come evitare che le fonti si riducano a una sola, a un pensiero unico elaborato algoritmicamente? E come invece promuovere un ambiente adatto a preservare il pluralismo e a rappresentare la complessità della realtà? Come possiamo rendere sostenibile questo strumento potente, costoso ed estremamente energivoro? Come possiamo renderlo accessibile anche ai paesi in via di sviluppo?

Dalle risposte a questi e ad altri interrogativi capiremo se l’intelligenza artificiale finirà per costruire nuove caste basate sul dominio informativo, generando nuove forme di sfruttamento e di diseguaglianza; oppure se, al contrario, porterà più eguaglianza, promuovendo una corretta informazione e una maggiore consapevolezza del passaggio di epoca che stiamo attraversando, favorendo l’ascolto dei molteplici bisogni delle persone e dei popoli, in un sistema di informazione articolato e pluralista. Da una parte si profila lo spettro di una nuova schiavitù, dall’altra una conquista di libertà; da una parte la possibilità che pochi condizionino il pensiero di tutti, dall’altra quella che tutti partecipino all’elaborazione del pensiero.

La risposta non è scritta, dipende da noi. Spetta all’uomo decidere se diventare cibo per gli algoritmi oppure nutrire di libertà il proprio cuore, senza il quale non si cresce nella sapienza. Questa sapienza matura facendo tesoro del tempo e abbracciando le vulnerabilità. Cresce nell’alleanza fra le generazioni, fra chi ha memoria del passato e chi ha visione di futuro. Solo insieme cresce la capacità di discernere, di vigilare, di vedere le cose a partire dal loro compimento. Per non smarrire la nostra umanità, ricerchiamo la Sapienza che è prima di ogni cosa (cfr Sir 1,4), che passando attraverso i cuori puri prepara amici di Dio e profeti (cfr Sap 7,27): ci aiuterà ad allineare anche i sistemi dell’intelligenza artificiale a una comunicazione pienamente umana.

Roma, San Giovanni in Laterano, 24 gennaio 2024

FRANCESCO

__________________________

^[1] Lettere dal lago di Como, Brescia 2022⁵, 95-97.

^[2] In continuità con i Messaggi per le precedenti Giornate Mondiali delle Comunicazioni Sociali, dedicati all’incontrare le persone dove e come sono (2021), all’ascoltare con l’orecchio del cuore (2022) e al parlare col cuore (2023).

^[3] Cfr “La verità vi farà liberi” (Gv 8,32). Fake news e giornalismo di pace. Messaggio per la LII Giornata Mondiale delle Comunicazioni Sociali, 2018.

^[4] Messaggio per la LVII Giornata Mondiale della Pace, 1° gennaio 2024, 8.

[00154-IT.01] [Testo originale: Italiano]

Traduzione in lingua francese

Intelligence artificielle et sagesse du cœur:

pour une communication pleinement humaine

Chers frères et sœurs!

L'évolution des systèmes de ladite “intelligence artificielle”, sur laquelle j’ai déjà réfléchi dans mon récentMessage pour la Journée Mondiale de la Paix, est également en train de modifier radicalement l’information et la communication et, à travers elles, certains des fondements de la cohabitation civile. Il s’agit d’un changement qui touche tout le monde, et pas seulement les professionnels. La diffusion accélérée d’inventions étonnantes, dont le fonctionnement et les potentialités sont inconnus de la plupart d’entre nous, suscite une perplexité qui oscille entre enthousiasme et désorientation et nous confronte inévitablement à des questions fondamentales : qu’est-ce donc que l’homme, quelle est sa spécificité et quel sera l’avenir de cette espèce que nous appelonshomo sapiensà l’ère des intelligences artificielles ? Comment rester pleinement humain et orienter dans le bon sens la mutation culturelle en cours ?

À partir du cœur

Il convient tout d’abord de débarrasser le terrain des lectures catastrophistes et de leurs effets paralysants. Il y a un siècle déjà, Romano Guardini, réfléchissant sur la technique et l’homme, nous invitait à ne pas nous raidir contre le “nouveau” pour tenter de «préserver un monde beau condamné à disparaître». En même temps, il lançait un avertissement prophétique pressant : «Notre place est dans le devenir. Nous devons en faire partie, chacun à sa place (...), en y adhérant honnêtement mais en restant sensibles, avec un cœur incorruptible, à tout ce qu’il y a de destructeur et de non-humain en lui». Et de conclure : «Il s’agit, il est vrai, de problèmes d’ordre technique, scientifique, politique ; mais ceux-ci ne peuvent être résolus qu’en partant de l’homme. Il doit se constituer un nouveau type humain, doté d'une spiritualité plus profonde, d’une liberté et d’une intériorité nouvelles».^[1]

Dans cette époque qui risque d’être riche en technique et pauvre en humanité, notre réflexion ne peut partir que du cœur de l’homme.^[2]Ce n’est qu’en nous dotant d’un regard spirituel, en retrouvant une sagesse du cœur, que nous pouvons lire et interpréter la nouveauté de notre temps et redécouvrir la voie d’une communication pleinement humaine. Le cœur, entendu bibliquement comme le siège de la liberté et des décisions les plus importantes de la vie, est un symbole d’intégrité, d’unité, mais il évoque aussi les affections, les désirs, les rêves, et il est surtout le lieu intérieur de la rencontre avec Dieu. La sagesse du cœur est donc cette vertu qui nous permet de tisser ensemble le tout et les parties, les décisions et leurs conséquences, les hauteurs et les fragilités, le passé et l’avenir, le je et le nous.

Cette sagesse du cœur se laisse trouver par ceux qui la cherchent et se laisse voir par ceux qui l’aiment ; elle devance ceux qui la désirent et va à la recherche de ceux qui en sont dignes (cf.Sg6, 12-16). Elle est avec ceux qui acceptent les conseils (cf.Pr13, 10), avec ceux dont le cœur est docile, un cœur qui écoute (cf.1R3, 9). Elle est un don de l’Esprit Saint, qui permet de voir les choses avec le regard de Dieu, de comprendre les liens, les situations, les événements et d’en découvrir le sens. Sans cette sagesse, l’existence devient insipide, car c’est précisément la sagesse - dont la racine latinesaperela relie à lasaveur- qui donne du goût à la vie.

Opportunité et danger

Nous ne pouvons pas attendre cette sagesse des machines. Bien que le terme d’intelligence artificielleait aujourd’hui supplanté le terme plus correct utilisé dans la littérature scientifique, celui d’apprentissage automatique, l’utilisation même du mot “intelligence” est trompeuse. Les machines possèdent certes une capacité incommensurablement plus grande que l’homme à mémoriser les données et à les relier entre elles, mais c’est à l’homme et à lui seul qu’il revient d’en décrypter le sens. Il ne s’agit donc pas d’exiger que les machines semblent humaines. Il s’agit plutôt de réveiller l’homme de l’hypnose dans laquelle il tombe du fait de son délire de toute-puissance, se croyant un sujet totalement autonome et autoréférentiel, séparé de tout lien social et oublieux de son statut de créature.

En réalité, l’homme a toujours fait l’expérience qu’il ne se suffit pas à lui-même et il tente de surmonter sa vulnérabilité par tous les moyens. Depuis les premiers objets préhistoriques, utilisés comme prolongement des bras, en passant par les médias utilisés comme prolongement de la parole, nous en sommes arrivés aujourd’hui aux machines les plus sophistiquées qui agissent comme une aide à la pensée. Chacune de ces réalités peut cependant être contaminée par la tentation originaire de devenir comme Dieu sans Dieu (cf.Gn3), c’est-à-dire de vouloir conquérir par ses propres forces ce qui devrait au contraire être accueilli comme un don de Dieu et vécu en relation avec les autres.

Selon l’orientation du cœur, tout ce qui est entre les mains de l’homme devient opportunité ou danger. Son corps même, créé pour être un lieu de communication et de communion, peut devenir agressif. De même, toute extension technique de l’homme peut être un instrument de service aimant ou de domination hostile. Les systèmes d’intelligence artificielle peuvent contribuer au processus de libération de l’ignorance et faciliter l’échange d’informations entre les différents peuples et générations. Ils peuvent, par exemple, rendre accessible et compréhensible un énorme patrimoine de connaissances écrit dans le passé ou permettre aux gens de communiquer dans des langues qui leur sont inconnues. Mais ils peuvent aussi être des instruments de “pollution cognitive”, d'altération de la réalité par des récits partiellement ou totalement faux qui sont crus - et partagés - comme s’ils étaient vrais. Il suffit de penser au problème de la désinformation, auquel nous sommes confrontés depuis des années sous la forme des “fausses nouvelles”^[3]et qui utilise aujourd’hui des “hyper trucages”, c’est-à-dire la création et la diffusion d’images qui semblent parfaitement plausibles mais qui sont fausses (il m'est arrivé aussi d’en être l’objet), ou des messages audio qui utilisent la voix d’une personne pour dire des choses qu’elle n’a jamais dites. La simulation, qui est à la base de ces programmes, peut être utile dans certains domaines spécifiques, mais elle devient perverse lorsqu’elle fausse le rapport à l’autre et à la réalité.

De la première vague d’intelligence artificielle, celle des médias sociaux,nous en avons déjà compris l’ambivalence, évoquant ses opportunités comme ses risques et ses pathologies. Le deuxième niveau des intelligences artificielles génératives marque un saut qualitatif incontestable. Il est donc important de pouvoir comprendre, appréhender et réguler des outils qui, entre de mauvaises mains, pourraient ouvrir des scénarios négatifs. Comme tout ce qui est sorti de l’esprit et des mains de l’homme, les algorithmes ne sont pas neutres. Il est donc nécessaire d’agir de manière préventive, en proposant des modèles de régulation éthique pour limiter les implications néfastes et discriminatoires, socialement injustes, des systèmes d’intelligence artificielle et pour contrer leur utilisation pour la réduction du pluralisme, la polarisation de l'opinion publique ou la construction d’une pensée unique. Je renouvelle donc mon appel en exhortant «la Communauté des nations à travailler ensemble afin d’adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’intelligence artificielle sous ses multiples formes».^[4]Cependant, comme dans tous les domaines humains, la réglementation ne suffit pas.

Grandir en humanité

Nous sommes appelés à grandir ensemble, en humanité et en tant qu’humanité. Le défi qui se présente à nous est de faire un saut qualitatif pour être à la hauteur d'une société complexe, multiethnique, pluraliste, multireligieuse et multiculturelle. Il nous appartient de nous interroger sur le développement théorique et l’utilisation pratique de ces nouveaux instruments de communication et de connaissance. De grandes possibilités de bien s'accompagnent du risque que tout se transforme en un calcul abstrait, réduisant les personnes à des données, la pensée à un schéma, l’expérience à un cas, le bien au profit, et surtout que nous finissions par nier l'unicité de chaque personne et de son histoire, en dissolvant le caractère concret de la réalité dans une série de données statistiques.

La révolution numérique peut nous rendre plus libres, mais certainement pas si elle nous enferme dans les modèles connus aujourd’hui sous le nom de chambres d’écho. Dans ce cas, au lieu d’accroître le pluralisme de l’information, on risque de se retrouver perdu dans un marécage anonyme, au service des intérêts du marché ou du pouvoir. Il n’est pas acceptable que l’utilisation de l’intelligence artificielle conduise à une pensée anonyme, à un assemblage de données non certifiées, à une déresponsabilisation éditoriale collective. En effet, la représentation de la réalité en méga données, aussi fonctionnelle soit-elle pour la gestion des machines, implique une perte substantielle de la vérité des choses, qui entrave la communication interpersonnelle et qui risque de porter atteinte à notre humanité même. L’information ne peut être séparée de la relation existentielle : elle implique le corps, l’être dans la réalité ; elle demande de mettre en relation non seulement des données, mais des expériences ; elle exige le visage, le regard, la compassion ainsi que le partage.

Je pense aux reportages sur les guerres et à la “guerre parallèle” menée par le biais de campagnes de désinformation. Et je pense au nombre de reporters blessés ou morts sur le terrain pour nous permettre de voir ce que leurs yeux ont vu. Car ce n’est qu’en touchant la souffrance des enfants, des femmes et des hommes que l’on peut comprendre l’absurdité des guerres.

L’utilisation de l’intelligence artificielle pourra apporter une contribution positive dans le domaine de la communication, dans la mesure où elle n'annulera pas le rôle du journalisme dans ce domaine, mais au contraire l’accompagnera; où elle renforcera le professionnalisme de la communication, en responsabilisant chaque communicateur ; où elle redonnera à chaque être humain le rôle de sujet, avec une capacité critique, de la communication elle-même.

Interrogations pour aujourd’hui et demain

Certaines questions se posent donc spontanément : comment protéger le professionnalisme et la dignité des opérateurs dans le domaine de la communication et de l’information, ainsi que ceux des utilisateurs du monde entier ? Comment assurer l’interopérabilité des plateformes ? Comment faire en sorte que les entreprises qui développent des plateformes numériques assument la responsabilité de ce qu’elles diffusent et dont elles tirent profit, au même titre que les éditeurs de médias traditionnels ? Comment rendre plus transparents les critères des algorithmes d’indexation et de désindexation et des moteurs de recherche, capables de valoriser ou d’effacer des personnes et des opinions, des histoires et des cultures ? Comment garantir la transparence des processus d’information ? Comment rendre évidente la paternité des écrits et la traçabilité des sources, en évitant le voile de l’anonymat ? Comment savoir si une image ou une vidéo représente un événement ou le simule ? Comment éviter que les sources soient réduites à une seule, à une pensée unique, élaborée de manière algorithmique ? Et comment favoriser un environnement qui préserve le pluralisme et qui représente la complexité de la réalité ? Comment rendre durable cet outil puissant, coûteux et extrêmement énergivore? Comment le rendre accessible également aux pays en voie de développement ?

Les réponses à ces questions et à d’autres nous permettront de comprendre si l’intelligence artificielle finira par créer de nouvelles castes basées sur la maîtrise de l’information, créant de nouvelles formes d’exploitation et d’inégalité, ou si, au contraire, elle apportera plus d’égalité, en promouvant une information correcte et une plus grande conscience du changement d’époque que nous vivons, en favorisant l’écoute des besoins multiples des personnes et des peuples, dans un système d’information articulé et pluraliste. D’un côté se profile le spectre d’un nouvel esclavage, de l’autre une conquête de liberté ; d’un côté la possibilité que quelques-uns conditionnent la pensée de tous ; de l’autre la possibilité que tous participent à l’élaboration de la pensée.

La réponse n’est pas écrite, elle dépend de nous. C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté, sans laquelle on ne grandit pas en sagesse. Cette sagesse mûrit en tirant profit du temps et en embrassant les vulnérabilités. Elle grandit dans l’alliance entre les générations, entre ceux qui ont la mémoire du passé et ceux qui ont la vision de l’avenir. Ce n’est qu’ensemble que grandit la capacité de discerner, d’être vigilant, de voir les choses à partir de leur accomplissement. Pour ne pas perdre notre humanité, cherchons la Sagesse qui précède toutes choses (cf.Si1, 4), celle qui, passant par des cœurs purs, prépare les amis de Dieu et les prophètes (cf.Sg7, 27) : elle nous aidera à aligner même les systèmes d’intelligence artificielle sur une communication pleinement humaine.

Rome, Saint-Jean-de-Latran, 24 janvier 2024

FRANÇOIS

_____________________

^[1] Lettres du Lac de Côme, Brescia 2022, pp. 95-97.

^[2]Dans la continuité avec les Messages pour les précédentes Journées Mondiales des Communications Socialessur les thèmes:Communiquer en rencontrant les personnes où et comme elles sont(2021),Écouter avec l’oreille du cœur (2022),Parler avec le cœur(2023).

^[3]Cf.La vérité vous rendra libres (Jn 8, 32). Fausses nouvelle et journalisme de paix. Message pour la 52^èmeJournée Mondiale des Communications sociales, 2018.

^[4]Message pour la 57^èmeJournée Mondiale de la Paix, 1^erjanvier 2024, n. 8.

[00154-FR.01] [Texte original: Italien]

Traduzione in lingua inglese

Artificial Intelligence and the Wisdom of the Heart:

Towards a Fully Human Communication

Dear brothers and sisters!

The development of systems of artificial intelligence, to which I devoted my recent Message for the World Day of Peace, is radically affecting the world of information and communication, and through it, certain foundations of life in society. These changes affect everyone, not merely professionals in those fields. The rapid spread of astonishing innovations, whose workings and potential are beyond the ability of most of us to understand and appreciate, has proven both exciting and disorienting. This leads inevitably to deeper questions about the nature of human beings, our distinctiveness and the future of the specieshomo sapiensin the age of artificial intelligence. How can we remain fully human and guide this cultural transformation to serve a good purpose?

Starting with the heart

Before all else, we need to set aside catastrophic predictions and their numbing effects. A century ago, Romano Guardini reflected on technology and humanity. Guardini urged us not to reject “the new” in an attempt to “preserve a beautiful world condemned to disappear”. At the same time, he prophetically warned that “we are constantly in the process of becoming. We must enter into this process, each in his or her own way, with openness but also with sensitivity to everything that is destructive and inhumane therein”. And he concluded: “These are technical, scientific and political problems, but they cannot be resolved except by starting from our humanity. A new kind of human being must take shape, endowed with a deeper spirituality and new freedom and interiority”.^[1]

At this time in history, which risks becoming rich in technology and poor in humanity, our reflections must begin with the human heart.^[2]Only by adopting a spiritual way of viewing reality, only by recovering a wisdom of the heart, can we confront and interpret the newness of our time and rediscover the path to a fully human communication. In the Bible, the heart is seen as the place of freedom and decision-making. It symbolizes integrity and unity, but it also engages our emotions, desires, dreams; it is, above all, the inward place of our encounter with God. Wisdom of the heart, then, is the virtue that enables us to integrate the whole and its parts, our decisions and their consequences, our nobility and our vulnerability, our past and our future, our individuality and our membership within a larger community.

This wisdom of the heart lets itself be found by those who seek it and be seen by those who love it; it anticipates those who desire it and it goes in search of those who are worthy of it (cf.Wis6:12-16). It accompanies those willing to take advice (cf.Prov13:10), those endowed with a docile and listening heart (cf.1 Kg3:9). A gift of the Holy Spirit, it enables us to look at things with God’s eyes, to see connections, situations, events and to uncover their real meaning. Without this kind of wisdom, life becomes bland, since it is precisely wisdom – whose Latin rootsapereis related to the nounsapor– that gives “savour” to life.

Opportunity and danger

Such wisdom cannot be sought from machines. Although the term “artificial intelligence” has now supplanted the more correct term, “machine learning”, used in scientific literature, the very use of the word “intelligence” can prove misleading. No doubt, machines possess a limitlessly greater capacity than human beings for storing and correlating data, but human beings alone are capable of making sense of that data. It is not simply a matter of making machines appear more human, but of awakening humanity from the slumber induced by the illusion of omnipotence, based on the belief that we are completely autonomous and self-referential subjects, detached from all social bonds and forgetful of our status as creatures.

Human beings have always realized that they are not self-sufficient and have sought to overcome their vulnerability by employing every means possible. From the earliest prehistoric artifacts, used as extensions of the arms, and then the media, used as an extension of the spoken word, we have now become capable of creating highly sophisticated machines that act as a support for thinking. Each of these instruments, however, can be abused by the primordial temptation to becomelikeGodwithoutGod (cf.Gen3), that is, to want to grasp by our own effort what should instead be freely received as a gift from God, to be enjoyed in the company of others.

Depending on the inclination of the heart, everything within our reach becomes either an opportunity or a threat. Our very bodies, created for communication and communion, can become a means of aggression. So too, every technical extension of our humanity can be a means of loving service or of hostile domination. Artificial intelligence systems can help to overcome ignorance and facilitate the exchange of information between different peoples and generations. For example, they can render accessible and understandable an enormous patrimony of written knowledge from past ages or enable communication between individuals who do not share a common language. Yet, at the same time, they can be a source of “cognitive pollution”, a distortion of reality by partially or completely false narratives, believed and broadcast as if they were true. We need but think of the long-standing problem of disinformation in the form of fake news,^[3]which today can employ “deepfakes”, namely the creation and diffusion of images that appear perfectly plausible but false (I too have been an object of this), or of audio messages that use a person’s voice to say things which that person never said. The technology of simulation behind these programmes can be useful in certain specific fields, but it becomes perverse when it distorts our relationship with others and with reality.

Starting with the first wave of artificial intelligence, that of social media, we have experienced its ambivalence: its possibilities but also its risks and associated pathologies. The second level of generative artificial intelligence unquestionably represents a qualitative leap. It is important therefore to understand, appreciate and regulate instruments that, in the wrong hands could lead to disturbing scenarios. Like every other product of human intelligence and skill, algorithms are not neutral. For this reason, there is a need to act preventively, by proposing models of ethical regulation, to forestall harmful, discriminatory and socially unjust effects of the use of systems of artificial intelligence and to combat their misuse for the purpose of reducing pluralism, polarizing public opinion or creating forms of groupthink. I once more appeal to the international community “to work together in order to adopt a binding international treaty that regulates the development and use of artificial intelligence in its many forms”.^[4]At the same time, as in every human context, regulation is, of itself, not sufficient.

Growth in humanity

All of us are called to grow together, in humanity and as humanity. We are challenged to make a qualitative leap in order to become a complex, multiethnic, pluralistic, multireligious and multicultural society. We are called to reflect carefully on the theoretical development and the practical use of these new instruments of communication and knowledge. Their great possibilities for good are accompanied by the risk of turning everything into abstract calculations that reduce individuals to data, thinking to a mechanical process, experience to isolated cases, goodness to profit, and, above all, a denial of the uniqueness of each individual and his or her story. The concreteness of reality dissolves in a flurry of statistical data.

The digital revolution can bring us greater freedom, but not if it imprisons us in models that nowadays are called “echo chambers”. In such cases, rather than increasing a pluralism of information, we risk finding ourselves adrift in a mire of confusion, prey to the interests of the market or of the powers that be. It is unacceptable that the use of artificial intelligence should lead to groupthink, to a gathering of unverified data, to a collective editorial dereliction of duty. The representation of reality in “big data”, however useful for the operation of machines, ultimately entails a substantial loss of the truth of things, hindering interpersonal communication and threatening our very humanity. Information cannot be separated from living relationships. These involve the body and immersion in the real world; they involve correlating not only data but also human experiences; they require sensitivity to faces and facial expressions, compassion and sharing.

Here I think of the reporting of wars and the “parallel war” being waged through campaigns of disinformation. I think too of all those reporters who have been injured or killed in the line of duty in order to enable us to see what they themselves had seen. For only by such direct contact with the suffering of children, women and men, can we come to appreciate the absurdity of wars.

The use of artificial intelligence can make a positive contribution to the communications sector, provided it does not eliminate the role of journalism on the ground but serves to support it. Provided too that it values the professionalism of communication, making every communicator more aware of his or her responsibilities, and enables all people to be, as they should, discerning participants in the work of communication.

Questions for today and for the future

In this regard, a number of questions naturally arise. How do we safeguard professionalism and the dignity of workers in the fields of information and communication, together with that of users throughout the world? How do we ensure the interoperability of platforms? How do we enable businesses that develop digital platforms to accept their responsibilities with regard to content and advertising in the same way as editors of traditional communications media? How do we make more transparent the criteria guiding the operation of algorithms for indexing and de-indexing, and for search engines that are capable of celebrating or canceling persons and opinions, histories and cultures? How do we guarantee the transparency of information processing? How do we identify the paternity of writings and the traceability of sources concealed behind the shield of anonymity? How do we make it clear whether an image or video is portraying an event or simulating it? How do we prevent sources from being reduced to one alone, thus fostering a single approach, developed on the basis of an algorithm? How instead do we promote an environment suitable for preserving pluralism and portraying the complexity of reality? How can we make sustainable a technology so powerful, costly and energy-consuming? And how can we make it accessible also to developing countries?

The answers we give to these and other questions will determine if artificial intelligence will end up creating new castes based on access to information and thus giving rise to new forms of exploitation and inequality. Or, if it will lead to greater equality by promoting correct information and a greater awareness of the epochal change that we are experiencing by making it possible to acknowledge the many needs of individuals and of peoples within a well-structured and pluralistic network of information. If, on the one hand, we can glimpse the spectre of a new form of slavery, on the other, we can also envision a means of greater freedom; either the possibility that a select few can condition the thought of others, or that all people can participate in the development of thought.

The answer we give to these questions is not pre-determined; it depends on us. It is up to us to decide whether we will become fodder for algorithms or will nourish our hearts with that freedom without which we cannot grow in wisdom. Such wisdom matures by using time wisely and embracing our vulnerabilities. It grows in the covenant between generations, between those who remember the past and who look ahead to the future. Only together can we increase our capacity for discernment and vigilance and for seeing things in the light of their fulfilment. Lest our humanity lose its bearings, let us seek the wisdom that was present before all things (cf.Sir1:4): it will help us also to put systems of artificial intelligence at the service of a fully human communication.

Rome, Saint John Lateran, 24 January 2024

FRANCIS

__________________________

^[1]Letters from Lake Como.

^[2]The 2024 Message for the World Day of Social Communications takes up the preceding Messages devoted toencountering persons where and how they are(2021), tohearing with the ear of the heart(2022) andspeaking to the heart(2023).

^[3]Cf.“The Truth Will Make You Free” (Jn 8:32). Fake News and Journalism for Peace, Message for the 2018 World Day of Social Communications.

^[4] Message for the 57th World Day of Peace, 1 January 2024, 8.

[00154-EN.01] [Original text: Italian]

Traduzione in lingua tedesca

Künstliche Intelligenz und Weisheit des Herzens:

für eine wahrhaft menschliche Kommunikation

Liebe Brüder und Schwestern!

Die Entwicklung von Systemen sogenannter „künstlicher Intelligenz“, über die ich mich bereits in meiner jüngsten Botschaft zum Weltfriedenstag geäußert habe, verändert die Information und Kommunikation und damit einige der Grundlagen des zivilen Zusammenlebens in radikaler Weise. Es handelt sich um einen Wandel, der alle betrifft, nicht nur Fachleute. Die beschleunigte Verbreitung wunderbarer Erfindungen, deren Funktionsweisen und Potenziale den meisten von uns verschlossen bleiben, löst ein Erstaunen aus, das zwischen Begeisterung und Orientierungslosigkeit schwankt und uns unweigerlich mit grundlegenden Fragen konfrontiert: Was ist der Mensch, was ist seine Besonderheit, und wie sieht die Zukunft unserer Spezies homo sapiens im Zeitalter der künstlichen Intelligenz aus? Wie können wir wahrhaft Mensch bleiben und den stattfindenden kulturellen Wandel zum Guten lenken?

Vom Herzen ausgehen

Zunächst einmal lohnt es sich, das Terrain von schwarzmalerischen Lesarten und ihren lähmenden Auswirkungen zu räumen. Romano Guardini, der sich bereits vor hundert Jahren Gedanken über die Technik und den Menschen machte, rief dazu auf, sich nicht gegen das „Neue“ zu versteifen, in dem Bemühen, »eine schöne Welt zu bewahren […], die untergehen muss«. Zugleich warnte er aber auch eindringlich und prophetisch: »Unser Platz ist im Werdenden. Wir sollen uns hineinstellen, jeder an seinem Ort, [...] ehrlich unser Ja dazu sprechen; doch zugleich mit unbestechlichem Herzen fühlend bleiben für alles, was darin zerstörend, unmenschlich ist«. Und er schloss mit den Worten: »Wohl handelt es sich um technische, wissenschaftliche, politische Aufgaben; die aber sind nur vom Menschen her zu lösen. Ein neues Menschentum muss erwachen, von tieferer Geistigkeit, neuer Freiheit und Innerlichkeit«^[1].

In diesem Zeitalter, das in der Gefahr steht, reich an Technik und arm an Menschlichkeit zu sein, muss unser Nachdenken vom menschlichen Herzen ausgehen^[2]. Nur wenn wir eine geistliche Sichtweise einnehmen, nur wenn wir wieder eine Herzensweisheit erlangen, können wir die Neuerungen unserer Zeit deuten und interpretieren und den Weg zu einer wahrhaft menschlichen Kommunikation wiederentdecken. Das Herz, biblisch verstanden als Sitz der Freiheit und der wichtigsten Lebensentscheidungen, ist ein Symbol der Ganzheit, der Einheit, aber es hat auch mit Gefühlen, Wünschen und Träumen zu tun; vor allem ist es ein innerer Ort der Gottesbegegnung. Die Herzensweisheit ist also jene Tugend, die es uns ermöglicht, das Ganze und die Teile, die Entscheidungen und ihre Folgen, die Stärken und die Schwächen, die Vergangenheit und die Zukunft, das Ich und das Wir miteinander zu verbinden.

Diese Weisheit des Herzens lässt sich von denen finden, die sie suchen, und sie lässt sich von denen erblicken, die sie lieben; sie kommt denen zuvor, die nach ihr verlangen, und sie geht auf die Suche nach denen, die ihrer würdig sind (vgl. Weish 6,12-16). Sie ist bei denen, die sich beraten lassen (vgl. Spr 13,10), bei denen, die ein fügsames Herz, ein hörendes Herz haben (vgl. 1 Kön 3,9). Sie ist eine Gabe des Heiligen Geistes, die es ermöglicht, die Dinge mit den Augen Gottes zu sehen, die Zusammenhänge, Situationen, Ereignisse zu verstehen und ihre Bedeutung zu entdecken. Ohne diese Weisheit wird das Leben fade, denn es ist gerade die Weisheit – deren lateinische Wortwurzel sapere sie mit sapor (Geschmack) verbindet – die dem Leben Geschmack verleiht.

Chancen und Gefahren

Wir können diese Weisheit nicht von Maschinen erwarten. Auch wenn der Begriff künstliche Intelligenz inzwischen den korrekteren, in der wissenschaftlichen Literatur verwendeten Begriff maschinelles Lernen verdrängt hat, ist allein schon die Verwendung des Wortes „Intelligenz“ irreführend. Maschinen verfügen sicherlich über eine unermesslich größere Fähigkeit als der Mensch, Daten zu speichern und sie untereinander in Beziehung zu setzen, aber es ist kommt dem Menschen zu, und nur ihm, deren Sinn zu verstehen. Es geht also nicht darum von Maschinen zu verlangen, menschlich zu wirken. Es geht vielmehr darum, den Menschen aus der Hypnose zu wecken, in die er aufgrund seines Allmachtswahns verfällt, indem er sich für ein völlig autonomes und selbstbezügliches Subjekt hält, das von allen sozialen Bindungen losgelöst ist und seine Geschöpflichkeit vergessen hat.

In Wirklichkeit macht der Mensch seit jeher die Erfahrung, dass er sich selbst nicht genügt und er versucht, seine Verwundbarkeit mit allen Mitteln zu überwinden. Bei den frühesten prähistorischen Artefakten angefangen, die als Verlängerung der Arme benutzt wurden, über die Medien, die als Erweiterung des Sprechens eingesetzt werden, sind wir heute bei den ausgefeiltesten Maschinen angelangt, die als Hilfsmittel für das Denken dienen. Jede dieser Wirklichkeiten kann jedoch durch die Urversuchung vergiftet werden, ohne Gott wie Gott zu werden (vgl. Gen 3), d.h. aus eigener Kraft das erobern zu wollen, was eigentlich als Geschenk Gottes angenommen und in der Beziehung zu anderen gelebt werden sollte.

Je nach Ausrichtung des Herzens wird alles, was sich in den Händen des Menschen befindet, zur Chance oder zur Gefahr. Selbst sein Körper, der als Ort der Kommunikation und Gemeinschaft geschaffen wurde, kann zu einem Mittel der Aggression werden. Ebenso kann jede technische Erweiterung des Menschen ein Werkzeug liebevollen Dienstes oder feindlicher Beherrschung sein. Die Systeme künstlicher Intelligenz können zur Befreiung von der Unwissenheit beitragen und den Informationsaustausch zwischen verschiedenen Völkern und Generationen erleichtern. Sie können zum Beispiel eine enorme Fülle von Wissen, das in vergangenen Zeiten aufgeschrieben wurde, zugänglich und verständlich machen oder Menschen in ihnen unbekannten Sprachen kommunizieren lassen. Aber sie können zugleich auch Instrument „kognitiver Verschmutzung“ sein, einer Verzerrung der Wirklichkeit durch teilweise oder gänzlich falsche Narrative, die dennoch geglaubt – und verbreitet – werden, als ob sie wahr wären. Es genügt, an das Problem der Desinformation zu denken, mit der wir seit Jahren in Form von Fake News^[3] zu tun haben und die sich heute des Deep Fake bedient, d.h. der Erstellung und Verbreitung von Bildern, die vollkommen echt wirken, aber falsch sind (auch ich war davon schon betroffen), oder auch von Audiobotschaften, die die Stimme einer Person verwenden, um Dinge zu sagen, die dieselbe niemals gesprochen hat. Die Simulation, die diesen Programmen zugrunde liegt, kann in einigen speziellen Bereichen nützlich sein, aber sie wird dort abartig, wo sie die Beziehung zu den anderen und zur Wirklichkeit verdreht.

Die erste Welle der künstlichen Intelligenz, die der sozialen Medien, haben wir bereits in ihrer Ambivalenz verstanden, indem wir neben ihren Chancen auch ihre Risiken und Pathologien hautnah erlebt haben. Die zweite Stufe generativer künstlicher Intelligenz markiert einen unbestreitbaren qualitativen Sprung. Es ist daher wichtig, die Möglichkeit zu haben, die Instrumente zu verstehen, zu begreifen und zu regulieren, die in den falschen Händen zu negativen Szenarien führen können. Wie alles andere, das aus dem Geist und den Händen des Menschen hervorgegangen ist, sind auch Algorithmen nicht neutral. Daher ist es notwendig, präventiv zu handeln und Möglichkeiten für eine ethische Regulierung vorzuschlagen, um die schädlichen und diskriminierenden oder sozial ungerechten Auswirkungen von Systemen künstlicher Intelligenz einzudämmen und um zu verhindern, dass sie zur Verringerung von Pluralismus, zur Polarisierung der öffentlichen Meinung oder zur Herausbildung eines Einheitsdenkens eingesetzt werden. Ich erneuere daher meinen Appell und fordere »die Völkergemeinschaft auf, gemeinsam daran zu arbeiten, einen verbindlichen internationalen Vertrag zu schließen, der die Entwicklung und den Einsatz von künstlicher Intelligenz in ihren vielfältigen Formen regelt«^[4]. Doch wie in jedem Lebensbereich reicht eine Reglementierung nicht aus.

In der Menschlichkeit wachsen

Wir sind aufgerufen, gemeinsam zu wachsen, in der Menschlichkeit und als Menschheit. Die Herausforderung, vor der wir stehen, liegt darin, einen qualitativen Sprung zu machen, um einer komplexen, multiethnischen, pluralistischen, multireligiösen und multikulturellen Gesellschaft gerecht zu werden. Es ist unsere Aufgabe, uns über die theoretische Entwicklung und den praktischen Gebrauch dieser neuen Instrumente der Kommunikation und der Erkenntnis Gedanken zu machen. Große Chancen auf Gutes gehen mit dem Risiko einher, dass sich alles in ein abstraktes Kalkül verwandelt, das die Menschen auf Daten reduziert, das Denken auf ein Schema, die Erfahrung auf einen Einzelfall, das Gute auf den Profit und vor allem, dass am Ende die Einzigartigkeit eines jeden Menschen und seiner Geschichte geleugnet wird und sich die Konkretheit der Wirklichkeit in eine Reihe statistischer Daten auflöst.

Die digitale Revolution kann uns freier machen, aber sicher nicht, wenn sie uns in Modelle einsperrt, die heute als Echokammern bekannt sind. In solchen Fällen besteht die Gefahr, sich in einem anonymen Sumpf zu verlieren und die Interessen des Marktes oder der Macht zu bedienen, statt den Informationspluralismus zu steigern. Es ist nicht hinnehmbar, dass der Gebrauch künstlicher Intelligenz zu einem anonymen Denken, zu einer Zusammensetzung von unbestätigten Daten und zu einer kollektiven redaktionellen Verantwortungslosigkeit führt. Die Abbildung der Wirklichkeit in Big Data, so zweckmäßig sie für den Gebrauch von Maschinen auch sein mag, impliziert nämlich einen erheblichen Verlust hinsichtlich der Wahrheit der Dinge, was die zwischenmenschliche Kommunikation behindert und unsere Menschlichkeit selbst zu beeinträchtigen droht. Information kann nicht von lebendiger Beziehung getrennt werden: Sie umfasst den Körper, das Stehen in der Wirklichkeit; sie verlangt, nicht nur Daten, sondern auch Erfahrungen miteinander in Beziehung zu setzen; sie erfordert das Gesicht, den Blick, das Mitgefühl und den Austausch.

Ich denke an die Berichterstattung über Kriege und an jenen „Parallelkrieg“, der durch Desinformationskampagnen geführt wird. Und ich denke daran, wie viele Reporter vor Ort verletzt werden oder sterben, damit wir sehen können, was ihre Augen gesehen haben. Denn nur, wenn wir das Leiden von Kindern, Frauen und Männern hautnah erleben, können wir die Absurdität von Kriegen verstehen.

Die Nutzung künstlicher Intelligenz wird einen positiven Beitrag im Bereich der Kommunikation leisten können, wenn sie die Rolle des Journalismus vor Ort nicht beseitigt, sondern ihn unterstützt; wenn sie die Professionalität der Kommunikation zur Geltung kommen lässt und jeden Kommunikator in die Verantwortung nimmt; wenn sie jedem Menschen wieder die Rolle eines kritikfähigen Subjekts der Kommunikation zurückgibt.

Fragen für Heute und Morgen

Es stellen sich daher spontan einige Fragen: Wie können die Professionalität und die Würde der Beschäftigten im Bereich der Kommunikation und Information sowie die der Nutzer weltweit geschützt werden? Wie kann die Interoperabilität der Plattformen gewährleistet werden? Wie kann sichergestellt werden, dass die Unternehmen, die digitale Plattformen entwickeln, ebenso Verantwortung für das übernehmen, was sie verbreiten und wovon sie profitieren, wie die Anbieter von traditionellen Medien? Wie können die Kriterien transparenter gemacht werden, die hinter den Algorithmen zur Indizierung und De-Indizierung sowie für Suchmaschinen stehen, welche in der Lage sind, Menschen und Meinungen, Geschichten und Kulturen zu verherrlichen oder auszulöschen? Wie lässt sich die Transparenz von Informationsprozessen gewährleisten? Wie kann man die Urheberschaft von Schriften ersichtlich und die Quellen nachvollziehbar machen, um einen Schirm der Anonymität zu verhindern? Wie kann offenkundig werden, ob ein Bild oder ein Video ein Ereignis abbildet oder es simuliert? Wie kann man vermeiden, dass sich Quellen auf eine einzige reduzieren, auf ein einziges, algorithmisch erzeugtes Denken? Und wie kann stattdessen ein Umfeld gefördert werden, das geeignet ist, den Pluralismus zu wahren und die Komplexität der Wirklichkeit darzustellen? Wie können wir dieses leistungsstarke, teure und extrem energieintensive Instrument nachhaltig werden lassen? Wie können wir es auch für Entwicklungsländer zugänglich machen?

Anhand der Antworten auf diese und andere Fragen werden wir verstehen, ob künstliche Intelligenz am Ende neue, auf Informationsdominanz basierende Kasten hervorbringen wird und neue Formen der Ausbeutung und Ungleichheit schafft oder ob sie im Gegenteil mehr Gleichheit mit sich bringt, indem sie korrekte Information und ein größeres Bewusstsein für den Zeitenwandel, den wir durchlaufen, fördert sowie das Hören auf die vielfältigen Bedürfnisse von Menschen und Völkern in einem artikulierten und pluralistischen Informationssystem begünstigt. Auf der einen Seite zeichnet sich das Gespenst einer neuen Sklaverei ab, auf der anderen Seite ein Zugewinn an Freiheit; einerseits die Möglichkeit, dass einige wenige das Denken aller bestimmen, andererseits die Chance, dass alle an der Entwicklung des Denkens mitwirken.

Die Antwort steht nicht fest, sie hängt von uns ab. Es liegt am Menschen zu entscheiden, ob er zum Futter für Algorithmen wird oder ob er sein Herz mit Freiheit nährt, das Herz, ohne das wir nicht in der Weisheit wachsen können. Diese Weisheit reift, indem man aus der Geschichte lernt und die Verletzlichkeit akzeptiert. Sie wächst im Bündnis der Generationen, zwischen denen, die sich an das Vergangene erinnern und denen, die Zukunftsvisionen hegen. Nur in Gemeinschaft wächst die Fähigkeit, zu unterscheiden, wachsam zu sein und die Dinge von ihrer Erfüllung her zu sehen. Lasst uns – damit wir unsere Menschlichkeit nicht verlieren – die Weisheit suchen, die früher als alles erschaffen wurde (vgl. Sir 1,4), die Gottesfreunde und Propheten schafft, indem sie in reine Seelen eintritt (vgl. Weish 7,27): Sie wird uns helfen, auch die Systeme künstlicher Intelligenz auf eine wahrhaft menschliche Kommunikation hin auszurichten.

Rom, Sankt Johannes im Lateran, 24. Januar 2024

FRANZISKUS

_________________________

^[1] Briefe vom Comer See, Berlin 1927, 93-96.

^[2] Als Fortsetzung zu den Botschaften der vorangegangenen Welttage der sozialen Kommunikationsmittel, die sich den Aspekte widmeten, den Menschen zu begegnen, wo und wie sie sind (2021), mit dem Ohr des Herzens zu hören (2022) und mit dem Herzen zu sprechen (2023).

^[3] Vgl »Die Wahrheit wird euch befreien« (Joh 8,32). Fake News und Journalismus für den Frieden. Botschaft zum 52. Welttag der sozialen Kommunikationsmittel, 2018.

^[4] Botschaft zum 57. Weltfriedenstag, 1. Januar 2024, 8.

[00154-DE.01] [Originalsprache: Italienisch]

Traduzione in lingua spagnola

Inteligencia artificial y sabiduría del corazón:

para una comunicación plenamente humana

Queridos hermanos y hermanas:

La evolución de los sistemas de la así llamada "inteligencia artificial", sobre la que ya reflexioné en mi reciente Mensaje para la Jornada Mundial de la Paz, también está modificando radicalmente la información y la comunicación y, a través de ellas, algunos de los fundamentos de la convivencia civil. Es un cambio que afecta a todos, no sólo a los profesionales. La difusión acelerada de sorprendentes inventos, cuyo funcionamiento y potencial son indescifrables para la mayoría de nosotros, suscita un asombro que oscila entre el entusiasmo y la desorientación y nos coloca inevitablemente frente a preguntas fundamentales: ¿qué es pues el hombre? ¿cuál es su especificidad y cuál será el futuro de esta especie nuestra llamada homo sapiens, en la era de las inteligencias artificiales? ¿Cómo podemos seguir siendo plenamente humanos y orientar hacia el bien el cambio cultural en curso?

Comenzando desde el corazón

Ante todo, conviene despejar el terreno de lecturas catastrofistas y de sus efectos paralizantes. Hace un siglo, Romano Guardini, reflexionando sobre la tecnología y el hombre, instaba a no ponerse rígidos ante lo “nuevo” intentando «conservar un mundo de infinita belleza que está a punto de desaparecer». Sin embargo, al mismo tiempo de manera encarecida advertía proféticamente: «Nuestro puesto está en el porvenir. Todos han de buscar posiciones allí donde corresponde a cada uno […], podremos realizar este objetivo si cooperamos noblemente en esta empresa; y a la vez, permaneciendo, en el fondo de nuestro corazón incorruptible, sensibles al dolor que produce la destrucción y el proceder inhumano que se contiene en este mundo nuevo». Y concluía: «Es cierto que se trata, de problemas técnicos, científicos y políticos; pero es preciso resolverlos planteándolos desde el punto de vista humano. Es preciso que brote una nueva humanidad de profunda espiritualidad, de una libertad y una vida interior nuevas».^[1]

En esta época que corre el riesgo de ser rica en tecnología y pobre en humanidad, nuestra reflexión sólo puede partir del corazón humano.^[2] Sólo dotándonos de una mirada espiritual, sólo recuperando una sabiduría del corazón, podremos leer e interpretar la novedad de nuestro tiempo y redescubrir el camino de una comunicación plenamente humana. El corazón, bíblicamente entendido como la sede de la libertad y de las decisiones más importantes de la vida, es símbolo de integridad, de unidad, a la vez que evoca afectos, deseos, sueños, y es sobre todo el lugar interior del encuentro con Dios. La sabiduría del corazón es, pues, esa virtud que nos permite entrelazar el todo y las partes, las decisiones y sus consecuencias, las capacidades y las fragilidades, el pasado y el futuro, el yo y el nosotros.

Esta sabiduría del corazón se deja encontrar por quien la busca y se deja ver por quien la ama; se anticipa a quien la desea y va en busca de quien es digno de ella (cf. Sab 6,12-16). Está con los que se dejan aconsejar (cf. Prov 13,10), con los que tienen el corazón dócil y escuchan (cf. 1 Re 3,9). Es un don del Espíritu Santo, que permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido. Sin esta sabiduría, la existencia se vuelve insípida, porque es precisamente la sabiduría —cuya raíz latina sapere se relaciona con el sabor— la que da gusto a la vida.

Oportunidad y peligro

No podemos esperar esta sabiduría de las máquinas. Aunque el término inteligencia artificial ha suplantado al más correcto utilizado en la literatura científica, machine learning, el uso mismo de la palabra “inteligencia” es engañoso. Sin duda, las máquinas poseen una capacidad inconmensurablemente mayor que los humanos para almacenar datos y correlacionarlos entre sí, pero corresponde al hombre, y sólo a él, descifrar su significado. No se trata, pues, de exigir que las máquinas parezcan humanas; sino más bien de despertar al hombre de la hipnosis en la que ha caído debido a su delirio de omnipotencia, creyéndose un sujeto totalmente autónomo y autorreferencial, separado de todo vínculo social y ajeno a su creaturalidad.

En efecto, el hombre siempre ha experimentado que no puede bastarse a sí mismo e intenta superar su vulnerabilidad utilizando cualquier medio. Empezando por los primeros artefactos prehistóricos, utilizados como prolongación de los brazos, pasando por los medios de comunicación empleados como prolongación de la palabra, hemos llegado hoy a las máquinas más sofisticadas que actúan como ayuda del pensamiento. Sin embargo, cada una de estas realidades puede estar contaminada por la tentación original de llegar a ser como Dios sin Dios (cf. Gn 3), es decir, de querer conquistar por las propias fuerzas lo que, en cambio, debería acogerse como un don de Dios y vivirse en la relación con los demás.

Según la orientación del corazón, todo lo que está en manos del hombre se convierte en una oportunidad o en un peligro. Su propio cuerpo, creado para ser un lugar de comunicación y comunión, puede convertirse en un medio de agresión. Del mismo modo, toda extensión técnica del hombre puede ser un instrumento de servicio amoroso o de dominación hostil. Los sistemas de inteligencia artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de información entre pueblos y generaciones diferentes. Pueden, por ejemplo, hacer accesible y comprensible una enorme riqueza de conocimientos escritos en épocas pasadas o hacer que las personas se comuniquen en lenguas que no conocen. Pero al mismo tiempo pueden ser instrumentos de “contaminación cognitiva”, de alteración de la realidad a través de narrativas parcial o totalmente falsas que se creen —y se comparten— como si fueran verdaderas. Baste pensar en el problema de la desinformación al que nos enfrentamos desde hace años en forma de fake news^[3] y que hoy se sirve de deepfakes, es decir, de la creación y difusión de imágenes que parecen perfectamente verosímiles pero que son falsas (también yo he sido objeto de ello), o de mensajes de audio que utilizan la voz de una persona para decir cosas que nunca ha dicho. La simulación, que está a la base de estos programas, puede ser útil en algunos campos específicos, pero se vuelve perversa cuando distorsiona la relación con los demás y la realidad.

Ya desde la primera ola de la inteligencia artificial, la de los medios sociales, hemos comprendido su ambivalencia, dándonos cuenta tanto de sus potencialidades como de sus riesgos y patologías. El segundo nivel de inteligencia artificial generativa marca un salto cualitativo indiscutible. Por lo tanto, es importante tener la capacidad de entender, comprender y regular herramientas que en manos equivocadas podrían abrir escenarios adversos. Como todo lo que ha salido de la mente y de las manos del hombre, los algoritmos. Por ello, es necesario actuar preventivamente, proponiendo modelos de regulación ética para frenar las implicaciones nocivas y discriminatorias, socialmente injustas, de los sistemas de inteligencia artificial y contrarrestar su uso en la reducción del pluralismo, la polarización de la opinión pública o la construcción de un pensamiento único. Así pues, renuevo mi llamamiento exhortando a «la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas».^[4] Sin embargo, como en cualquier ámbito humano, la sola reglamentación no es suficiente.

Crecer en humanidad

Estamos llamados a crecer juntos, en humanidad y como humanidad. El reto que tenemos ante nosotros es dar un salto cualitativo para estar a la altura de una sociedad compleja, multiétnica, pluralista, multirreligiosa y multicultural. Nos corresponde cuestionarnos sobre el desarrollo teórico y el uso práctico de estos nuevos instrumentos de comunicación y conocimiento. Grandes posibilidades de bien acompañan al riesgo de que todo se transforme en un cálculo abstracto, que reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio, y sobre todo que acabemos negando la unicidad de cada persona y de su historia, disolviendo la concreción de la realidad en una serie de estadísticas.

La revolución digital puede hacernos más libres, pero no ciertamente si nos dejamos atrapar por los fenómenos mediáticos hoy conocidos como cámara de eco. En tales casos, en lugar de aumentar el pluralismo de la información, corremos el riesgo de perdernos en un pantano desconocido, al servicio de los intereses del mercado o del poder. Es inaceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados, a una negligencia colectiva de responsabilidad editorial. La representación de la realidad en macrodatos, por muy funcional que sea para la gestión de las máquinas, implica de hecho una pérdida sustancial de la verdad de las cosas, que dificulta la comunicación interpersonal y amenaza con dañar nuestra propia humanidad. La información no puede separarse de la relación existencial: implica el cuerpo, el estar en la realidad; exige poner en relación no sólo datos, sino también las experiencias; exige el rostro, la mirada y la compasión más que el intercambio.

Pienso en los reportajes de las guerras y en la “guerra paralela” que se hace mediante campañas de desinformación. Y pienso en cuántos reporteros resultan heridos o mueren sobre el terreno para permitirnos ver lo que han visto sus ojos. Porque sólo tocando el sufrimiento de niños, mujeres y hombres podemos comprender lo absurdo de las guerras.

El uso de la inteligencia artificial podrá contribuir positivamente en el campo de la comunicación si no anula el papel del periodismo sobre el terreno, sino que, por el contrario, lo respalda; si aumenta la profesionalidad de la comunicación, responsabilizando a cada comunicador; si devuelve a cada ser humano el papel de sujeto, con capacidad crítica, respecto de la misma comunicación.

Interrogantes para el hoy y para el mañana

Así pues, surgen espontáneamente algunas preguntas: ¿cómo proteger la profesionalidad y la dignidad de los trabajadores del ámbito de la comunicación y la información, junto con la de los usuarios de todo el mundo? ¿Cómo garantizar la interoperabilidad de las plataformas? ¿Cómo garantizar que las empresas que desarrollan plataformas digitales asuman la responsabilidad de lo que difunden y de lo cual obtienen beneficios, del mismo modo que los editores de los medios de comunicación tradicionales? ¿Cómo hacer más transparentes los criterios en los que se basan los algoritmos de indexación y desindexación y los motores de búsqueda, capaces de exaltar o cancelar personas y opiniones, historias y culturas? ¿Cómo garantizar la transparencia de los procesos de información? ¿Cómo hacer evidente la autoría de los escritos y rastreables las fuentes, evitando el manto del anonimato? ¿Cómo poner de manifiesto si una imagen o un vídeo retratan un acontecimiento o lo simulan? ¿Cómo evitar que las fuentes se reduzcan a un pensamiento único, elaborado algorítmicamente? ¿Y cómo fomentar, en cambio, un entorno que preserve el pluralismo y represente la complejidad de la realidad? ¿Cómo hacer sostenible esta herramienta potente, costosa y de alto consumo energético? ¿Cómo hacerla accesible también a los países en desarrollo?

A partir de las respuestas a estas y otras preguntas, comprenderemos si la inteligencia artificial acabará construyendo nuevas castas basadas en el dominio de la información, generando nuevas formas de explotación y desigualdad; o si, por el contrario, traerá más igualdad, promoviendo una información correcta y una mayor conciencia del cambio de época que estamos viviendo, favoreciendo la escucha de las múltiples necesidades de las personas y de los pueblos, en un sistema de información articulado y pluralista. Por una parte, se cierne el espectro de una nueva esclavitud, por la otra, una conquista de la libertad; por un lado, la posibilidad de que unos pocos condicionen el pensamiento de todos, por otro, la posibilidad de que todos participen en la elaboración del pensamiento.

La respuesta no está escrita, depende de nosotros. Corresponde al hombre decidir si se convierte en alimento de algoritmos o en cambio sí alimenta su corazón con la libertad, ese corazón sin el cual no creceríamos en sabiduría. Esta sabiduría madura sacando provecho del tiempo y comprendiendo las debilidades. Crece en la alianza entre generaciones, entre quienes tienen memoria del pasado y quienes tienen visión de futuro. Sólo juntos crece la capacidad de discernir, de vigilar, de ver las cosas a partir de su cumplimiento. Para no perder nuestra humanidad, busquemos la Sabiduría que es anterior a todas las cosas (cf. Si 1,4), la que pasando por los corazones puros hace amigos de Dios profetas (cf. Sab 7,27). Ella nos ayudará también a orientar los sistemas de inteligencia artificial a una comunicación plenamente humana.

Roma, en San Juan de Letrán, 24 de enero de 2024

FRANCISCO

_______________________

^[1] Cartas del Lago de Como, Pamplona 2013, 101-104.

^[2] En continuidad con los Mensajes de las anteriores Jornadas Mundiales de las Comunicaciones Sociales, dedicadas a encontrar a las personas donde están y como son (2021), escuchar con los oídos del corazón (2022) y hablar con el corazón (2023).

^[3] “La verdad os hará libres”(Jn8, 32). Fake newsy periodismo de paz. Mensaje de la 52 Jornada Mundial de las Comunicaciones Sociales, 2018.

^[4] Mensaje para la Celebración de la 57 Jornada Mundial de la Paz (1 enero 2024), 8.

[00154-ES.01] [Texto original: Italiano]

Traduzione in lingua portoghese

Inteligência artificial e sabedoria do coração:

para uma comunicação plenamente humana

Queridos irmãos e irmãs!

A evolução dos sistemas da chamada «inteligência artificial», sobre a qual já me debrucei na recente Mensagem para o Dia Mundial da Paz, está a modificar de forma radical também a informação e a comunicação e, através delas, algumas bases da convivência civil. Trata-se duma mudança que afeta não só aos profissionais, mas a todos. A rápida difusão de maravilhosas invenções, cujo funcionamento e potencialidades são indecifráveis para a maior parte de nós, suscita um espanto que oscila entre entusiasmo e desorientação e põe-nos inevitavelmente diante de questões fundamentais: O que é então o homem, qual é a sua especificidade e qual será o futuro desta nossa espécie chamada homo sapiens na era das inteligências artificiais? Como podemos permanecer plenamente humanos e orientar para o bem a mudança cultural em curso?

A partir do coração

Antes de mais nada, convém limpar o terreno das leituras catastróficas e dos seus efeitos paralisadores. Já há um século Romano Guardini, refletindo sobre a técnica e o homem, convidava a não se inveterar contra o «novo» na tentativa de «conservar um mundo belo condenado a desaparecer». Ao mesmo tempo, porém, com veemência profética advertia: «O nosso posto é no devir. Devemos inserir-nos nele, cada um no seu lugar (...), aderindo honestamente, mas permanecendo sensíveis, com um coração incorruptível, a tudo o que nele houver de destrutivo e não-humano». E concluía: «Trata- se – é verdade – de problemas de natureza técnica, científica e política; mas só podem ser resolvidos passando pelo homem. Deve-se formar um novo tipo humano, dotado duma espiritualidade mais profunda, duma nova liberdade e duma nova interioridade».^[1]

Neste tempo que corre o risco de ser rico em técnica e pobre em humanidade, a nossa reflexão só pode partir do coração humano.^[2] Somente dotando-nos dum olhar espiritual, apenas recuperando uma sabedoria do coração é que poderemos ler e interpretar a novidade do nosso tempo e descobrir o caminho para uma comunicação plenamente humana. O coração, entendido biblicamente como sede da liberdade e das decisões mais importantes da vida, é símbolo de integridade e de unidade, mas evoca também os afetos, os desejos, os sonhos, e sobretudo é o lugar interior do encontro com Deus. Por isso a sabedoria do coração é a virtude que nos permite combinar o todo com as partes, as decisões com as suas consequências, as grandezas com as fragilidades, o passado com o futuro, o eu com o nós.

Esta sabedoria do coração deixa-se encontrar por quem a busca e deixa-se ver a quem a ama; antecipa-se a quem a deseja e vai à procura de quem é digno dela (cf. Sab 6, 12-16). Está com quem aceita conselho (cf. Pr 13, 10), com quem tem um coração dócil, um coração que escuta (cf. 1 Re 3, 9). É um dom do Espírito Santo, que permite ver as coisas com os olhos de Deus, compreender as interligações, as situações, os acontecimentos e descobrir o seu sentido. Sem esta sabedoria, a existência torna-se insípida, pois é precisamente a sabedoria que dá gosto à vida: a sua raiz latina sapere associa-a ao sabor.

Oportunidade e perigo

Não podemos esperar esta sabedoria das máquinas. Embora o termo inteligência artificial já tenha suplantado o termo mais correto utilizado na literatura científica de machine learning (aprendizagem automática), o próprio uso da palavra «inteligência» é falacioso. É certo que as máquinas têm uma capacidade imensamente maior que os seres humanos de memorizar os dados e relacioná-los entre si, mas compete ao homem, e só a ele, descodificar o seu sentido. Não se trata, pois, de exigir das máquinas que pareçam humanas; mas de despertar o homem da hipnose em que cai devido ao seu delírio de omnipotência, crendo-se sujeito totalmente autónomo e autorreferencial, separado de toda a ligação social e esquecido da sua condição de criatura.

Realmente o homem sempre teve experiência de não se bastar a si mesmo, e procura superar a sua vulnerabilidade valendo-se de todos os meios. Partindo dos primeiros instrumentos pré-históricos, utilizados como prolongamento dos braços, passando pelos meios de comunicação como extensão da palavra, chegamos hoje às máquinas mais sofisticadas que funcionam como auxílio do pensamento. Entretanto cada uma destas realidades pode ser contaminada pela tentação primordial de se tornar como Deus sem Deus (cf. Gen 3), isto é, a tentação de querer conquistar com as próprias forças aquilo que deveria, pelo contrário, acolher como dom de Deus e viver na relação com os outros.

Cada coisa nas mãos do homem torna-se oportunidade ou perigo, segundo a orientação do coração. O próprio corpo, criado para ser lugar de comunicação e comunhão, pode tornar-se instrumento de agressão. Da mesma forma, cada prolongamento técnico do homem pode ser instrumento de amoroso serviço ou de domínio hostil. Os sistemas de inteligência artificial podem contribuir para o processo de libertação da ignorância e facilitar a troca de informações entre diferentes povos e gerações. Por exemplo, podem tornar acessível e compreensível um património enorme de conhecimentos, escrito em épocas passadas, ou permitir às pessoas comunicarem em línguas que lhes são desconhecidas. Mas simultaneamente podem ser instrumentos de «poluição cognitiva», alteração da realidade através de narrações parcial ou totalmente falsas, mas acreditadas – e partilhadas – como se fossem verdadeiras. Basta pensar no problema da desinformação que enfrentamos, há anos, no caso das fake news^[3] e que hoje se serve da deep fake, isto é, da criação e divulgação de imagens que parecem perfeitamente plausíveis mas são falsas (já me aconteceu a mim também ser objeto delas), ou mensagens-áudio que usam a voz duma pessoa, dizendo coisas que ela própria nunca disse. A simulação, que está na base destes programas, pode ser útil nalguns campos específicos, mas torna-se perversa quando distorce as relações com os outros e com a realidade.

Já desde a primeira vaga de inteligência artificial – a das redes sociais – compreendemos a sua ambivalência, constatando a par das oportunidades também os riscos e as patologias. O segundo nível de inteligências artificiais geradoras marca, indiscutivelmente, um salto qualitativo. Por conseguinte é importante ter a possibilidade de perceber, compreender e regulamentar instrumentos que, em mãos erradas, poderiam abrir cenários negativos. Os algoritmos, como tudo o mais que sai da mente e das mãos do homem, não são neutros. Por isso é necessário prevenir propondo modelos de regulamentação ética para contornar os efeitos danosos, discriminadores e socialmente injustos dos sistemas de inteligência artificial e contrastar a sua utilização para a redução do pluralismo, a polarização da opinião pública ou a construção do pensamento único. Assim reitero aqui a minha exortação à «Comunidade das Nações a trabalhar unida para adotar um tratado internacional vinculativo, que regule o desenvolvimento e o uso da inteligência artificial nas suas variadas formas».^[4] Entretanto, como em todo o âmbito humano, não é suficiente a regulamentação.

Crescer em humanidade

Somos chamados a crescer juntos, em humanidade e como humanidade. O desafio que temos diante de nós é realizar um salto de qualidade para estarmos à altura duma sociedade complexa, multiétnica, pluralista, multirreligiosa e multicultural. Cabe a nós questionar-nos sobre o progresso teórico e a utilização prática destes novos instrumentos de comunicação e conhecimento. As suas grandes possibilidades de bem são acompanhadas pelo risco de que tudo se transforme num cálculo abstrato que reduz as pessoas a dados, o pensamento a um esquema, a experiência a um caso, o bem ao lucro, com o risco sobretudo de que se acabe por negar a singularidade de cada pessoa e da sua história, dissolvendo a realidade concreta numa série de dados estatísticos.

A revolução digital pode tornar-nos mais livres, mas certamente não conseguirá fazê-lo se nos prender nos modelos designados hoje como echo chamber (câmara de eco). Nestes casos, em vez de aumentar o pluralismo da informação, corre-se o risco de se perder num pântano anónimo, favorecendo os interesses do mercado ou do poder. Não é aceitável que a utilização da inteligência artificial conduza a um pensamento anónimo, a uma montagem de dados não certificados, a uma desresponsabilização editorial coletiva. A representação da realidade por big data (grandes dados), embora funcional para a gestão das máquinas, implica na realidade uma perda substancial da verdade das coisas, o que dificulta a comunicação interpessoal e corre o risco de danificar a nossa própria humanidade. A informação não pode ser separada da relação existencial: implica o corpo, o situar-se na realidade; pede para correlacionar não apenas dados, mas experiências; exige o rosto, o olhar, a compaixão e ainda a partilha.

Penso na narração das guerras e naquela «guerra paralela» que se trava através de campanhas de desinformação. E penso em tantos repórteres que ficam feridos ou morrem no local em efervescência para nos permitir a nós ver o que viram os olhos deles. Pois só tocando pessoalmente o sofrimento das crianças, das mulheres e dos homens é que poderemos compreender o caráter absurdo das guerras.

A utilização da inteligência artificial poderá proporcionar um contributo positivo no âmbito da comunicação, se não anular o papel do jornalismo no local, antes pelo contrário se o apoiar; se valorizar o profissionalismo da comunicação, responsabilizando cada comunicador; se devolver a cada ser humano o papel de sujeito, com capacidade crítica, da própria comunicação.

Interrogativos de hoje e de amanhã

E surgem, espontâneas, algumas questões: Como tutelar o profissionalismo e a dignidade dos trabalhadores no campo da comunicação e da informação, juntamente com a dos utentes em todo o mundo? Como garantir a interoperabilidade das plataformas? Como fazer com que as empresas que desenvolvem plataformas digitais assumam as suas responsabilidades relativamente ao que divulgam daí tirando os seus lucros, de forma análoga ao que acontece com os editores dos meios de comunicação tradicionais? Como tornar mais transparentes os critérios subjacentes aos algoritmos de indexação e desindexação e aos motores de pesquisa, capazes de exaltar ou cancelar pessoas e opiniões, histórias e culturas? Como garantir a transparência dos processos de informação? Como tornar evidente a paternidade dos escritos e rastreáveis as fontes, evitando o para-vento do anonimato? Como deixar claro se uma imagem ou um vídeo retrata um acontecimento ou o simula? Como evitar que as fontes se reduzam a uma só, a um pensamento único elaborado algoritmicamente? E, ao contrário, como promover um ambiente adequado para salvaguardar o pluralismo e representar a complexidade da realidade? Como podemos tornar sustentável este instrumento poderoso, caro e extremamente energívoro? Como podemos torná-lo acessível também aos países em vias de desenvolvimento?

A partir das respostas a estas e outras questões compreenderemos se a inteligência artificial acabará por construir novas castas baseadas no domínio informativo, gerando novas formas de exploração e desigualdade ou se, pelo contrário, trará mais igualdade, promovendo uma informação correta e uma maior consciência da transição de época que estamos a atravessar, favorecendo a escuta das múltiplas carências das pessoas e dos povos, num sistema de informação articulado e pluralista. Dum lado, vemos assomar o espetro duma nova escravidão, do outro uma conquista de liberdade; dum lado, a possibilidade de que uns poucos condicionem o pensamento de todos, do outro a possibilidade de que todos participem na elaboração do pensamento.

A resposta não está escrita; depende de nós. Compete ao homem decidir se há de tornar-se alimento para os algoritmos ou nutrir o seu coração de liberdade, sem a qual não se cresce na sabedoria. Esta sabedoria amadurece valorizando o tempo e abraçando as vulnerabilidades. Cresce na aliança entre as gerações, entre quem tem memória do passado e quem tem visão de futuro. Somente juntos é que cresce a capacidade de discernir, vigiar, ver as coisas a partir do seu termo. Para não perder a nossa humanidade, procuremos a Sabedoria que existe antes de todas as coisas (cf. Sir 1, 4), que, passando através dos corações puros, prepara amigos de Deus e profetas (cf. Sab 7, 27): há de ajudar-nos também a orientar os sistemas da inteligência artificial para uma comunicação plenamente humana.

Roma – São João de Latrão, 24 de janeiro de 2024.

FRANCISCO

_________________________________

 

^[1] Cartas do Lago de Como (Brescia ⁵2022), 95-97.

^[2] Em continuidade com as anteriores Mensagens para o Dia Mundial das Comunicações Sociais, dedicadas a «encontrar as pessoas onde estão e como são» (2021), «escutar com o ouvido do coração» (2022) e «falar com o coração» (2023).

^[3] Cf. Mensagem para o LII Dia Mundial das Comunicações (2018): «“A verdade vos tornará livres” (Jo 8, 32). Fake news e jornalismo de paz».

^[4] Mensagem para o LVII Dia Mundial da Paz : 1 de janeiro de 2024, 8.

[00154-PO.01] [Texto original: Italiano]

Traduzione in lingua polacca

„Sztuczna inteligencja i mądrość serca:

dla komunikacji w pełni ludzkiej”

Drodzy bracia i siostry!

Ewolucja systemów tak zwanej „sztucznej inteligencji”, nad którą zastanawiałem się już w moim ostatnim Orędziu na Światowy Dzień Pokoju, w sposób radykalny zmienia również informację i komunikację, a poprzez nie, pewne podstawy współżycia obywatelskiego. Jest to zmiana, która dotyka wszystkich, nie tylko specjalistów. Przyspieszone rozprzestrzenianie się cudownych wynalazków, których funkcjonowanie i potencjał są dla większości z nas niemożliwe do rozszyfrowania, budzi zdumienie, które oscyluje między entuzjazmem a dezorientacją, i nieuchronnie stawia nas przed fundamentalnymi pytaniami: czym zatem jest człowiek, na czym polega jego wyjątkowość i jaka będzie przyszłość naszego gatunku zwanego homo sapiens w erze sztucznej inteligencji? Jak możemy pozostać w pełni ludźmi i ukierunkowywać dokonującą się zmianę kulturową ku dobru?

Zaczynając od serca

Przede wszystkim należy oczyścić grunt z odczytywania katastroficznego oraz jego paraliżujących skutków. Już sto lat temu, zastanawiając się nad techniką i człowiekiem, Romano Guardini wzywał nas, byśmy nie przeciwstawiali się sztywno "nowemu", próbując „zachować wspaniały świat, który i tak musi zginąć”. Jednocześnie jednak proroczo ostrzegał: „Naszym zadaniem jest twórczo wpływać na proces zmian (...), zachowując uczciwą wrażliwość na wszystko, co jest w nim niszczycielskie, nieludzkie”. I podsumował: „Oczywiście, mamy przed sobą zadania natury technicznej, naukowej i politycznej, ale je można rozwiązać wyłącznie z perspektywy człowieka. Musi się obudzić nowe człowieczeństwo, przeniknięte większą głębią ducha, nową wolnością i nową wiarą”^[1].

W tej epoce, której grozi, że będzie bogata w technologię a uboga w człowieczeństwo, nasza refleksja może wychodzić jedynie od ludzkiego serca^[2]. Tylko mając spojrzenie duchowe, tylko odzyskując mądrość serca, możemy odczytać i zinterpretować nowość naszych czasów i na nowo odkryć drogę do komunikacji w pełni ludzkiej. Serce, rozumiane biblijnie jako siedziba wolności i najważniejszych życiowych decyzji, jest symbolem integralności, jedności, ale przywołuje także uczucia, pragnienia, marzenia, i przede wszystkim jest wewnętrznym miejscem spotkania z Bogiem. Mądrość serca jest zatem tą cnotą, która pozwala nam łączyć całość i części, decyzje i ich konsekwencje, wzniosłości i słabości, przeszłość i przyszłość, ja i my.

Ta mądrość serca pozwala się znaleźć tym, którzy jej szukają i pozwala się dostrzec tym, którzy ją kochają; uprzedza tych, którzy jej pragną i szuka tych, co są jej godni (por. Mdr 6, 12-16). Jest z tymi, którzy słuchają rad (por. Prz 13, 10), z tymi, których serca są pojętne, którzy słuchają (por. 1 Krl 3, 9). Jest ona darem Ducha Świętego, który pozwala widzieć rzeczy Bożymi oczami, rozumieć powiązania, sytuacje, wydarzenia i odkrywać ich znaczenie. Bez tej mądrości życie staje się mdłe, ponieważ to właśnie mądrość (sapientia) – której łaciński rdzeń łączy ją ze smakiem (sapor) – nadaje smak życiu.

Szansa i zagrożenie

Nie możemy oczekiwać takiej mądrości od maszyn. Chociaż termin sztuczna inteligencja wyparł bardziej poprawny termin używany w literaturze naukowej – machine learning [uczenie maszynowe] – to samo użycie słowa „inteligencja” jest mylące. Maszyny z pewnością mają niezmiernie większą zdolność niż człowiek do przechowywania danych i korelowania ich ze sobą, ale to człowiek i tylko człowiek musi rozszyfrować ich sens. Nie chodzi zatem o wymaganie, by maszyny wyglądały ludzko. Chodzi raczej o przebudzenie człowieka z hipnozy, w którą popada z powodu swojego urojenia wszechmocy, sądząc, że jest podmiotem całkowicie autonomicznym i odnoszącym się do siebie, odseparowanym od wszelkich więzi społecznych i nieświadomym, że jest stworzeniem.

W istocie, człowiek zawsze doświadczał, że sam sobie nie wystarcza i próbuje przezwyciężyć swoją słabość posługując się wszelkimi środkami. Począwszy od najwcześniejszych wyrobów prehistorycznych, używanych jako pomoc dla ramion, poprzez media używane jako pomoc dla mowy, doszliśmy dziś do najbardziej wyrafinowanych maszyn, które działają jako pomoc dla myśli. Każda z tych rzeczywistości może być jednak skażona pierwotną pokusą stania się jak Bóg bez Boga (por. Rdz 3), to znaczy chęcią zdobycia własnymi siłami tego, co powinno być przyjęte jako dar od Boga i przeżywane w relacji z innymi.

W zależności od nastawienia serca, wszystko w rękach człowieka staje się szansą lub zagrożeniem. Jego ciało, stworzone aby było miejscem komunikacji i komunii, może stać się środkiem agresywności. Podobnie, każde techniczne poszerzenie możliwości człowieka może być narzędziem miłującej posługi lub wrogiej dominacji. Systemy sztucznej inteligencji mogą przyczynić się do procesu wyzwolenia z niewiedzy i ułatwić wymianę informacji między różnymi narodami i pokoleniami. Mogą na przykład sprawić, że ogromne bogactwo wiedzy, zapisanej w minionych wiekach, stanie się dostępne i zrozumiałe, lub sprawić, że ludzie będą komunikować się w nieznanych im językach. Ale jednocześnie mogą być narzędziami „skażenia poznawczego”, przekształcenia rzeczywistości poprzez częściowo lub całkowicie fałszywe narracje, w które się wierzy – i którymi się dzieli – tak, jakby były prawdziwe. Wystarczy pomyśleć o problemie dezinformacji, z którym mamy do czynienia od lat w przypadku fake newsów^[3], a który dziś wykorzystuje deep fake, to znaczy tworzenie i rozpowszechnianie obrazów, które zdają się całkowicie wiarygodne, ale są fałszywe (zdarzyło mi się również być tego przedmiotem), lub wiadomości audio, które wykorzystują głos osoby mówiącej rzeczy, których ta osoba nigdy nie powiedziała. Symulacja, będąca podstawą tych programów, może być przydatna w niektórych konkretnych dziedzinach, ale staje się przewrotna, gdy wypacza relacje z innymi i z rzeczywistością.

W przypadku pierwszej fali sztucznej inteligencji, czyli mediów społecznościowych, zrozumieliśmy już jej ambiwalencję, dotykając ręką, oprócz jej możliwości, także zagrożeń i patologii. Drugi poziom generatywnej sztucznej inteligencji oznacza niezaprzeczalny skok jakościowy. Dlatego ważne jest posiadanie możliwości zrozumienia, bycia świadomym znaczenia i regulowania narzędzi, które w niewłaściwych rękach mogą otwierać negatywne scenariusze. Podobnie jak wszystko inne, co wyszło z umysłu i rąk człowieka, algorytmy nie są neutralne. Dlatego konieczne jest działanie prewencyjne, proponując modele regulacji etycznych w celu powstrzymywania szkodliwych i dyskryminujących, niesprawiedliwych społecznie implikacji systemów sztucznej inteligencji, oraz w celu przeciwdziałania ich wykorzystywaniu do ograniczania pluralizmu, do polaryzacji opinii publicznej lub do budowania jednolitego myślenia. Dlatego ponawiam mój apel, wzywając „Wspólnotę Narodów, aby – zjednoczona – pracowała w celu przyjęcia wiążącego traktatu międzynarodowego, regulującego rozwój i wykorzystanie sztucznej inteligencji w jej różnorodnych formach”^[4]. Jednak, jak w każdej dziedzinie ludzkiej, regulacja nie wystarczy.

Wzrastać w człowieczeństwie

Jesteśmy powołani do wzrastania razem w człowieczeństwie i jako rodzaj ludzki. Wyzwaniem, przed którym stoimy jest dokonanie skoku jakościowego, by sprostać społeczeństwu złożonemu, wieloetnicznemu, pluralistycznemu, wieloreligijnemu i wielokulturowemu. Naszym zadaniem jest postawienie sobie pytania o teoretyczny rozwój i praktyczne wykorzystanie tych nowych narzędzi komunikacji i poznania. Wielkim możliwościom dobra towarzyszy ryzyko, iż wszystko zostanie przekształcone w abstrakcyjną kalkulację, która sprowadza ludzi do danych, myśl do schematu, doświadczenie do przypadku, dobro do zysku, a przede wszystkim, że dojdziemy do zaprzeczenia wyjątkowości każdej osoby i jej historii, niszcząc konkretność rzeczywistości w serii danych statystycznych.

Rewolucja cyfrowa może uczynić nas bardziej wolnymi, ale nie wtedy, gdy uwięzi nas w modelach znanych dziś jako życie w swojej bańce (echo chamber). W takich przypadkach, zamiast zwiększać pluralizm informacji, grozi nam zagubienie się w anonimowym bagnie, zaspokajając interesy rynku lub władzy. Niedopuszczalne jest, aby wykorzystanie sztucznej inteligencji prowadziło do anonimowego myślenia, do gromadzenia nieuwierzytelnionych danych, do zbiorowego zaniedbania odpowiedzialności redakcyjnej. Przedstawianie rzeczywistości w dużych zbiorach danych (big data), jakkolwiek funkcjonalne dla zarządzania maszynami, oznacza w rzeczywistości znaczną utratę prawdy o rzeczach, co utrudnia komunikację międzyludzką i grozi zniszczeniem naszego własnego człowieczeństwa. Informacji nie da się oddzielić od relacji egzystencjalnej: implikuje ona ciało, przebywanie w rzeczywistości; domaga się powiązania ze sobą nie tylko danych, ale i doświadczeń; wymaga oblicza, spojrzenia, współczucia, a także dzielenia się.

Myślę o relacjonowaniu wojen i o „wojnie równoległej”, która odbywa się poprzez kampanie dezinformacyjne. I myślę o tym, ilu reporterów zostało rannych lub zginęło w terenie, abyśmy mogli zobaczyć to, co widziały ich oczy. Bo tylko dotykając cierpienia dzieci, kobiet i mężczyzn możemy zrozumieć absurdalność wojen.

Wykorzystanie sztucznej inteligencji może wnieść pozytywny wkład w dziedzinę komunikacji, jeśli nie unieważni roli dziennikarstwa w terenie, ale wręcz przeciwnie będzie je wspierać; jeśli doceni profesjonalizm komunikacji, czyniąc każdego komunikatora odpowiedzialnym; jeśli przywróci każdemu człowiekowi rolę podmiotu, ze zdolnością krytyczną samej komunikacji.

Pytania na dziś i jutro

Pojawiają się zatem spontaniczne pytania: jak bronić profesjonalizmu i godności pracowników w dziedzinie komunikacji i informacji, a także użytkowników na całym świecie? Jak zapewnić interoperacyjność platform? W jaki sposób sprawić, aby firmy rozwijające platformy cyfrowe brały odpowiedzialność za to, co rozpowszechniają i z czego czerpią zyski, analogicznie jak to się dzieje w przypadku wydawców mediów tradycyjnych? Jak sprawić, by bardziej przejrzyste stały się kryteria stojące u podstaw algorytmów indeksujących i deindeksujących oraz wyszukiwarek, które są w stanie wychwalać lub przekreślać osoby i opinie, historie i kultury? Jak zapewnić przejrzystość procesów informacyjnych? Jak sprawić, by autorstwo pism było oczywiste, a źródła możliwe do prześledzenia, przeciwdziałając parawanowi anonimowości? Jak ukazać, czy obraz lub wideo przedstawia wydarzenie, czy je symuluje? Jak zapobiec sprowadzaniu wielu źródeł tylko do jednego źródła, do algorytmicznie opracowanego jednolitego myślenia? I jak, z drugiej strony, możemy wspierać środowisko, które zachowuje pluralizm i reprezentuje złożoność rzeczywistości? Jak możemy sprawić, by to potężne, drogie i niezwykle energochłonne narzędzie było zrównoważone? Jak sprawić, by było ono dostępne także dla krajów rozwijających się?

Na podstawie odpowiedzi na te i inne pytania zrozumiemy, czy sztuczna inteligencja doprowadzi do utworzenia nowych kast opartych na dominacji informacyjnej, rodząc nowe formy wyzysku i nierówności; czy wręcz przeciwnie, przyniesie więcej równości, promując poprawną informację i większą świadomość przeżywanych obecnie przemian dziejowych, sprzyjając wysłuchaniu różnorodnych potrzeb osób i narodów, w zróżnicowanym i pluralistycznym systemie informacyjnym. Z jednej strony pojawia się widmo nowego niewolnictwa, z drugiej zdobycie wolności; z jednej strony możliwość warunkowania myślenia wszystkich przez nielicznych, a z drugiej możliwość uczestniczenia wszystkich w procesie myślowym.

Odpowiedź nie jest zapisana, zależy od nas. To człowiek decyduje, czy stać się pokarmem dla algorytmów, czy też karmić swoje serce wolnością, bez której nie wzrastamy w mądrości. Mądrość ta dojrzewa, doceniając czas i uwzględniając słabości. Rośnie w przymierzu między pokoleniami, między tymi, którzy pamiętają przeszłość, a tymi, którzy mają wizję przyszłości. Tylko razem wzrasta zdolność do rozeznania, do czujności i do postrzegania rzeczy z perspektywy ich spełnienia. Aby nie utracić naszego człowieczeństwa, szukajmy Mądrości, która jest przed wszystkim (por. Syr 1, 4), która zstępując przez czyste serca przygotowuje przyjaciół Boga i proroków (por. Mdr 7, 27): pomoże nam ona dostosować również systemy sztucznej inteligencji do komunikacji w pełni ludzkiej.

W Rzymie, u Świętego Jana na Lateranie, dnia 24 stycznia 2024 r., we wspomnienie św. Franciszka Salezego.

FRANCISZEK

___________________________

^[1] Listy znad jeziora Como, Warszawa 2021, tłum. Kamil Markiewicz, s. 82-83.

^[2] W nawiązaniu do Orędzi na poprzednie Światowe Dni Środków Społecznego Przekazu, poświęcone spotkaniu z ludźmi tam, gdzie są i takimi jakimi są (2021), słuchaniu uchem serca (2022) i mówieniu z sercem (2023).

^[3] Por. Prawda was wyzwoli (J 8, 32). Fake news a dziennikarstwo pokoju. Orędzie na LII Światowy Dzień Środków Społecznego Przekazu, 2018.

^[4] Orędzie na LVIII Światowy Dzień Pokoju, 1 stycznia 2024, 8.

[00154-PL.01] [Testo originale: Italiano]

Traduzione in lingua araba

رسالة قداسة البابا فرنسيس

في مناسبة اليوم العالمي الثّامن والخمسين لوسائل التّواصل الاجتماعيّة

الذّكاء الاصطناعيّ وحكمة القلب:

للتّواصل البشريّ الكامل

أيّها الإخوة والأخوات الأعزّاء!

إنَّ تطوّر أنظمة ما يسمّى بـ ”الذّكاء الاصطناعي“، والذي تأمّلت فيه من قبل في الرّسالة الأخيرة في مناسبة اليوم العالمي للسّلام، أخذ يؤدّي إلى تغيير جذري في الإعلام والاتّصالات، ومن خلالها، في بعض أسس العيش المدنيّ معًا. وهذا التّغيير يؤثّر على الجميع، وليس على المحترفين فقط. الانتشار المتسارع للاختراعات العجيبة، التي لا يمكن لمعظمنا فهمها، كيف تعمل وما هي إمكاناتها، يثير دهشة فينا تتأرجح بين الحماس والارتباك، ويضعنا حتمًا أمام أسئلة أساسيّة: ما هو الإنسان إذًا، وما هي خصوصيته، وما هو مستقبل هذا الجنس الذي يسمّى الإنسان العاقل في عصر الذّكاء الاصطناعيّ؟ وكيف يمكننا أن نبقى بشرًا بصورة كاملة ونوجّه التّغيير الثّقافي الجاري نحو الخير؟

انطلاقًا من القلب

أوّلًا، يجب تنقية الأرض من القراءات الكارثيّة وآثارها التي تشلّ عن العمل. منذ القرن الماضي، دعانا رومانو جوارديني وهو يتأمّل في التّكنولوجيا والإنسان، إلى ألّا نتصلّب ضد ”الجديد“ في محاولة "للمحافظة على عالم جميل محكوم عليه بالزوال". ولكنّه في الوقت نفسه، حذّر بطريقة نبويّة صادقة قال: "مكاننا هو في ما يصير. يجب أن نتكيّف معه، كلّ واحد في مكانه (...)، ونلتزم به باستقامة، ولكن نبقى حساسين ونشعر بقلب يرفض الفساد، ويرفض كلّ ما هو مدمّر فيه ولاإنساني. وختم بقوله: "صحيح أنّ هذه القضايا هي تكنولوجيّة وعلميّة وسياسيّة؛ لكن لا يمكن حلّها إلّا بواسطة الإنسان. يجب أن يتكوّن نوع إنسانيّ جديد فيه روحانيّة أعمق، وحرّيّة وحياة داخليّة جديدة"^[1].

في هذا العصر الذي يوشك أن يكون غنيًّا بالتّكنولوجيا وفقيرًا بالإنسانيّة، لا يمكن أن يبدأ تفكيرنا إلّا من قلب الإنسان^[2]. فقط بقوّة نظرة روحيّة، وفقط باستعادة حكمة القلب، يمكننا أن نقرأ ونفسّر ما هو جديد في عصرنا وأن نكتشف من جديد طريق التّواصل البشري الكامل. القلب، الذي يُفهم بحسب الكتاب المقدس على أنّه مقر الحرّيّة وأهمّ القرارات في الحياة، هو رمز للاستقامة والوَحدة، ولكنّه يثير أيضًا المشاعر والرّغبات والأحلام، وهو قبل كلّ شيء مكان داخليّ للقاء مع الله. لذلك حكمة القلب هي تلك الفضيلة التي تسمح لنا بأن ننسج معًا ونجمع بين الكلّ والأجزاء، والقرارات وعواقبها، والارتفاع والضّعف، والماضي والمستقبل، والأنا ونحن.

حكمة القلب هذه يمكن أن يجدها الذين يبحثون عنها ويمكن أن يراها الذين يحبّونها. تسبق الذين يرغبون فيها، وتبحث عن الذين يستحقونها (راجع الحكمة 6، 12- 16). إنّها مع الذين يقبلون النّصائح (را. أمثال 13، 10)، ومع الذين لهم قلب مطيع، وقلب يُصغي (را. 1 ملوك 3، 9). وهي عطيّة الرّوح القدس التي تسمح لنا بأن نرى الأشياء بعينَي الله، وبأن نفهم الرّوابط والمواقف والأحداث، وبأن نكتشف معناها. بدون هذه الحكمة، الحياة تصير بلا طعم، لأنّ الحكمة على وجه التّحديد – حيث المعنى في أصلها اللاتيني هو ”تذوّق“ (sapere) ويشترك مع معنى ”النّكهة“ (sapore) - هي التي تعطي طعمًا للحياة.

الفرصة والخطر

لا يمكننا أن نطلب هذه الحكمة من الآلات. على الرّغم من أنّ مصطلح الذّكاء الاصطناعيّ قد حلّ الآن محل المصطلح الأكثر قبولًا والمستخدم في الأدبيات العلميّة، وهو التّعلّم الآلي، فإنّ استخدام كلمة ”الذّكاء“ في حدّ ذاتها أمر مضلّل. بالتّأكيد الآلات تتمتع بقدرة هائلة أكبر من قدرة البشر على حفظ البيانات وربطها بعضها مع بعض، ولكن الأمر متروك للإنسان، وفقط له لفك تشفير المعنى. وبالتّالي ليس الأمر هو مطالبة الآلات بأن تبدو مثل البشر. بل بالأحرى بإيقاظ الإنسان من التّنويم المغناطيسيّ الذي يقع فيه بسبب هذيان القدرة المطلقة، وهو يعتقد بأنّه ذات مستقلة تمامًا وهو المرجعيّة لذاته، منفصلًا عن كلّ رابط اجتماعيّ، وينسى أنّه مخلوق.

في الواقع، اختبر الإنسان دائمًا بأنّه لا يكفي نفسه، وحاول أن يتغلّب على ضعفه بكلّ الوسائل. بدءًا بالمصنوعات اليدويّة في عصور ما قبل التّاريخ، والتي استُخدمت كامتداد للذراع، ووصولًا إلى وسائل الإعلام المستخدمة كامتداد للكلمة، وقد وصلنا اليوم إلى أحدث الآلات التي تعمل كمساعدة للفكر. ومع ذلك، كلّ واحدة من هذه الأمور يمكن أن تتلّوث بالتّجربة الأصليّة، أي الإنسان الذي يريد أن يصير مثل الله وبدون الله (راجع تكوين 3)، أي إنّه يريد الاستملاك بقوّته الخاصّة لما يجب أن يكون، بدلَ ذلك، عطيّةً نقبلها من الله، ثمّ نعيشها في علاقاتنا مع الآخرين.

وبحسب توجّه القلب، كلّ شيء في يدِ الإنسان يصير فرصة أو خطرًا. جسده، الذي خُلِقَ ليكون مكانًا للتواصل والشّركة مع الآخرين، يمكن أن يصير وسيلة للعدوان. وبنفس الطّريقة، فإنّ كلّ امتداد تقني للإنسان يمكن أن يكون أداة لخدمة المحبّة أو للسيطرة العدائيّة. أنظمة الذّكاء الاصطناعيّ يمكن أن تساهم في عمليّة التّحرّر من الجهل وتسهيل تبادل المعلومات بين مختلف الشّعوب والأجيال. مثلًا، يمكنهم جعل إرث هائل من المعرفة المكتوبة في العصور الماضيّة في متناول الجميع وأن يكون فهمها ممكنًا أو جعل النّاس يتواصلون بلغات غير معروفة لهم. ولكن في الوقت نفسه يمكن أن تكون أدوات ”تلوّث معرفي“، وتحريف الواقع من خلال روايات كاذبة جزئيًا أو كليًّا ومع ذلك يتمّ تصديقها - ومشاركتها - كما لو كانت حقيقيّة. يكفي أن نفكّر في مشكلة المعلومات المضلّلة التي نواجِهها منذ سنوات في مسألة الأخبار المزيّفة^[3] والتي تستخدم اليوم التّزييف العميق، أي إنشاء ونشر الصّور التي تبدو معقولة تمامًا ولكنّها كاذبة (وحدث لي أيضًا بأن أكون موضوعًا لها)، أو رسائل صوتيّة تستخدم صوت الشّخص وهو يقول أشياء لم يقلها قط. أسلوب التّمويه الذي هو أساس هذه البرامج يمكن أن يكون مفيدًا في بعض المجالات المحدّدة، ولكنّه يصير فاسدًا حيث يشوّه العلاقة مع الآخرين والواقع.

من الموجة الأولى للذّكاء الاصطناعيّ، أي موجة وسائل التّواصل الاجتماعيّ، رأينا التّناقض الذي لمسناه لمس اليَد، إلى جانب الفرص، والمخاطر أيضًا والأمراض. ونجد، في المستوى الثّاني للذّكاء الاصطناعيّ والمُوَلِّد، نقلة نوعيّة غير قابلة للنّقاش. لذلك، من المهمّ أن يكون لدينا الإمكانيّة لأن نُدرك ونفهم وننظّم الأدوات التي إن كانت في الأيدي المغلوطة، يمكنها أن تفتح سيناريوهات سلبيّة. الخوارزميّات ليست مُحايدة، مثلها مثل كلّ شيء آخر يخرج من عقل الإنسان ومن يديه. لذلك، من الضّروري أن نتخذ الإجراءات الوقاية اللازمة، وأن نقترح نماذج للتنظيم الأخلاقيّ، لكي نُوقف الآثار الضّارّة والتّمييزيّة وغير العادلة اجتماعيًّا، لأنظمة الذّكاء الاصطناعيّ، ولكي نقاوم استخدامها في الحدّ من التّعدّديّة، واستقطاب الرّأي العامّ أو في بناء فِكرٍ نمطيٍّ واحد. أجدّد إذًا ندائي وأدعوا "هيئة الأمم إلى أن تعمل معًا لتبنّي معاهدة دوليّة ملزمة، تنظِّم تطوير واستخدام الذّكاء الاصطناعيّ بأشكاله المتعدّدة"^[4]. مع ذلك، فإنَّ التّنظيم لا يكفي، كما هو الحال في كلّ مجال بشريّ.

ننمو في الإنسانيّة

نحن مدعوّون إلى أن ننمو معًا، في الإنسانيّة وبطريقة إنسانيّة. التّحدي أمامنا هو أن نقوم بقفزة نوعيّة حتّى نكون على مستوى مجتمع معقّد، ومتعدّد الأعراق، وفيه تعدّديّة، وهو متعدّد الأديان ومتعدّد الثّقافات. وعلينا تقع المسؤوليّة لطرح الأسئلة حول التّطوّر النّظري والاستخدام العمليّ لأدوات الاتّصال والمعرفة الجديدة هذه. الإمكانيّات الكبيرة للخير ترافق خطر تحوّل كلّ شيء إلى حسابات مجرّدة، فيتحوّل الأشخاص إلى بيانات، والفِكر إلى مخطّطات مرسومة، والتّجربة تصير هي الواقع، والخير يصير الرِبح، وأهمّ من كلّ شيء، ينتهي بنا الأمر إلى إنكار فرادة كلّ شخص وتاريخه، إذ نُذيب حقيقة الواقع في سلسلة من البيانات الإحصائيّة.

يمكن للثّورة الرّقميّة أن تزيد حريتنا، لكن على ألّا تسجننا في النّماذج المعروفة اليوم باسم ”غرفة الصّدى“. في هذه الحالات، بدل أن تزداد تعدّديّة المعلومات، نُجازف بأن نجد أنفسنا تائهين في مستنقع مجهول، مؤيّد لمصالح السّوق أو السُّلطة. من غير المقبول أن يؤدّي استخدام الذّكاء الاصطناعيّ إلى تفكير مبهم لا معالم له، وإلى تجميع بيانات غير مُعتمدة، وإلى انعدام المسؤوليّة في تحرير جماعي. تمثيل الواقع في ”البيانات الضّخمة“، على الرّغم من أنّه عمليّ لإدارة الآلات، يسبّب في الواقع خسارة مهمّة لحقيقة الأشياء، ويعيق التّواصل بين الأشخاص ويوشك أن يلحق الضّرر بإنسانيّتنا نفسها. لا يمكن أن نفصل المعلومات عن العلاقة في الحياة: فهي تشمل الجسد، ووجودنا في الواقع، وتطلب الاتّصال ليس فقط بالبيانات، بل بالخبرات أيضًا، وتحتاج إلى الوجه والنّظرة والرّأفة والمشاركة.

أفكّر في رواية الحروب ورواية ”الحرب الموازية“ التي تُشنّ في حملات التّضليل. وأفكّر في عدد الصّحفيّين الذين أصيبوا أو ماتوا في الميدان، حتّى نتمكّن نحن من رؤية ما رأته عيونهم. لأنّه فقط إن لمسنا لمسَ اليَد ألَم الأطفال والنّساء والرّجال، يمكننا أن نفهم عبثيّة الحروب.

يمكن أن يُساهم استخدام الذّكاء الاصطناعيّ بشكل إيجابيّ في مجال الاتّصال، إن لم يُلغِ دور الصّحافة في الميدان، بل على العكس إن رافقها، وإن ثَمَّنَ كفاءة التّواصل المهنيّة، وجعل كلّ عاملِ اتّصالات مسؤولًا، وإن أعاد لكلّ إنسان دور الشّخص القادر على نقد التّواصل نفسه.

أسئلة لليوم وللغد

تُطرَح بعض الأسئلة بصورة تلقائية: كيف نحمي الكفاءة المهنيّة والكرامة للعاملين في مجال الاتّصالات والمعلومات، والذين يستخدمون معلوماتهم في جميع أنحاء العالم؟ كيف نضمن التّعاون في العمل في المنصّات؟ كيف نتأكّد من أنّ الشّركات التي تقوم بتطوير المنصّات الرّقميّة تتحمل مسؤوليّاتها فيما يتعلّق بما تنشره وتستفيد منه، أُسوة بما يحدث لناشِري وسائل التّواصل التّقليديّين؟ كيف نزيد شفافية المعايير في خوارزميّات الفهرسة وإلغاء الفهرسة ومحرّكات البحث، والتي تقدر أن ترفع أو تلغي أشخاصًا وآراءً وقصصًا وثقافات؟ كيف نضمن شفافيّة الإجراءات المعلوماتيّة؟ كيف نجعل كاتبي الكتابات معروفين وكيف يمكن تتبّع المصادر، ونمنع حاجز عدم الكشف عن الأسماء؟ كيف نعرف إن كانت هذه صورة أو الفيديو واقعًا حقيقيًّا أم هما تمثيل؟ كيف نتجنّب حصر المصادر في مصدرٍ واحدٍ فقط، وفي فكرٍ واحدٍ تمَّ صنعه خوارزميًّا؟ وبالمقابل، كيف نعزّز وندعم بيئة مناسبة قادرة على المُحافظة على التّعدّديّة وتُمثّل تعقيدات الواقع؟ كيف نجعل هذه الأداة القديرة والمُكلفة والمُستهلكة للطّاقة بشكل كبير، أداة مُستدامة؟ وكيف يمكننا أن نجعلها في متناول البلدان النّامية أيضًا؟

من خلال إجاباتنا على هذه الأسئلة وعلى غيرها، سنفهم هل يؤدّي الذّكاء الاصطناعيّ إلى خلق طبقات جديدة مؤسّسة على السّيطرة الإعلاميّة، ويولّد أشكالًا جديدة من الاستغلال وعدم المساواة، أم، عكس ذلك، سيجلب مزيدًا من المساواة، ويعزّز ويدعم إعلامًا صحيحًا ووعيًا أشدّ للمرحلة الانتقاليّة التي نجتازها، ويشجّع الإصغاء إلى الاحتياجات المتعدّدة للنّاس والشّعوب، في نظام معلومات واضح وتعدّدي. من جهة، يلوح في الأفق شبح عبوديّة جديدة، ومن جهة أخرى، افتتاح مجالات للحرّيّة. من جهة، مقدرة عدد قليل للتأثير على فكر الجميع، ومن جهة أخرى، مقدرة الجميع على المشاركة في صياغة الفكر.

الجواب ليس مكتوبًا، بل يعتمد علينا. على الإنسان أن يقرّر إمّا أن يصير طعامًا للخوارزميّات أو أن يغذّي قلبه بالحرّيّة، التي من دونها لا يمكنه أن ينمو في الحكمة. هذه الحكمة تنضج بتقدير الوقت ومعانقة كلّ نقاط الضّعف. تنمو في التّضامن بين الأجيال، وبين الذين يتذكّرون الماضيّ والذين لديهم رؤية للمستقبل. معًا فقط تنمو القدرة على التّمييز وعلى السّهر، وعلى النّظر إلى الأمور بدءًا من اكتمالها. حتّى لا نفقد إنسانيّتنا، لنطلب من جديد الحكمة التي هي قبل كلّ شيء (راجع سيراخ 1، 4)، والتي تمرّ عبر القلوب النّقيّة وتهيّئ أصدقاء الله والأنبياء (راجع سفر الحكمة 7، 27): ستساعدنا أيضًا لنضع جنبًا إلى جنب أنظمة الذّكاء الاصطناعيّ مع تواصل بشري كامل.

روما، بازيليكا القدّيس يوحنّا في اللاتران، 24 كانون الثّاني/يناير 2024.

[00154-AR.01] [Testo originale: Italiano]

[B0078-XX.02]

 

 

[1] رسائل من بحيرة كومو، بريشيا 2022، 95-97.

 

 

[2] استمرارًا لرسائل الأيام العالميّة السّابقة لوسائل التّواصل الاجتماعيّة، المخصّصة للقاء الأشخاص أينما هم وكيفما هم (2021)، والإصغاء بأذُن القلب (2022)، والتكلُّم من القلب (2023).

 

 

[3] راجع "الحقّ يُحَرِّرُكُم" (يوحنّا 8، 32). الأخبار المزيّفة وصحافة السّلام. رسالة في مناسبة اليوم العالمي الثّاني والخمسين لوسائل التّواصل الاجتماعيّة، 2018.

 

 

[4] رسالة في مناسبة اليوم العالمي السّابع والخمسين للسّلام، الأوّل من كانون الثّاني/يناير 2024، 8.