Missatge del Papa per a la 58a Jornada Mundial de les Comunicacions Socials
La Santa Seu fa públic avui, 24 de gener, en la festivitat de San Francisco de Sales, el Missatge del papa Francesc per a la 58a Jornada Mundial de les Comunicacions Socials. «Intel·ligència artificial i saviesa del cor: per a una comunicació plenament humana» és el tema que proposa el Sant Pare per a la Jornada d’enguany, que se celebrarà el diumenge 12 de maig de 2024, solemnitat de l’Ascensió del Senyor.
Intel·ligència artificial i saviesa del cor: per a una comunicació plenament humana
(Text íntegre)
Benvolguts germans i germanes:
L’evolució dels sistemes de l’així anomenada «intel·ligència artificial», sobre la qual ja vaig reflexionar en el meu recent Missatge per a la Jornada Mundial de la Pau, també està modificant radicalment la informació i la comunicació i, a través d’elles, alguns dels fonaments de la convivència civil. És un canvi que afecta a tots, no sols als professionals. La difusió accelerada de sorprenents invents, el funcionament i el potencial dels quals són indesxifrables per a la majoria de nosaltres, suscita una sorpresa que oscil·la entre l’entusiasme i la desorientació i ens col·loca inevitablement enfront de preguntes fonamentals: què és doncs l’home? Quina és la seva especificitat i quin serà el futur d’aquesta espècie la nostra crida Homo sapiens, en l’era de les intel·ligències artificials? Com podem continuar sent plenament humans i orientar cap al bé el canvi cultural en curs?
Començant des del cor
Abans de res, convé buidar el terreny de lectures catastrofistes i dels seus efectes paralitzants. Fa un segle, Romano Guardini, reflexionant sobre la tecnologia i l’home, instava a no posar-se rígids davant el “nou” intentant «conservar un món d’infinita bellesa que està a punt de desaparèixer». No obstant això, al mateix temps de manera encarida advertia profèticament: «El nostre lloc està en l’avenir. Tots han de buscar posicions allí on correspon a cadascun […], podrem realitzar aquest objectiu si cooperem noblement en aquesta empresa; i alhora, romanent, en el fons del nostre cor incorruptible, sensibles al dolor que produeix la destrucció i la conducta inhumana que es conté en aquest món nou». I concloïa: «És cert que es tracta, de problemes tècnics, científics i polítics; però cal resoldre’ls plantejant-los des del punt de vista humà. Cal que brot una nova humanitat de profunda espiritualitat, d’una llibertat i una vida interior noves». [1]
En aquesta època que corre el risc de ser rica en tecnologia i pobra en humanitat, la nostra reflexió només pot partir del cor humà. [2] Només dotant-nos d’una mirada espiritual, només recuperant una saviesa del cor, podrem llegir i interpretar la novetat del nostre temps i redescobrir el camí d’una comunicació plenament humana. El cor, bíblicament entès com la seu de la llibertat i de les decisions més importants de la vida, és símbol d’integritat, d’unitat, alhora que evoca afectes, desitjos, somnis, i és sobretot el lloc interior de la trobada amb Déu. La saviesa del cor és, doncs, aquesta virtut que ens permet entrellaçar el tot i les parts, les decisions i les seves conseqüències, les capacitats i les fragilitats, el passat i el futur, el jo i el nosaltres.
Aquesta saviesa del cor es deixa trobar per qui la cerca i es deixa veure per qui la mestressa; s’anticipa a qui la desitja i va a la recerca de qui és digne d’ella (cf. Sab 6,12-16). Està amb els que es deixen aconsellar (cf. Prov 13,10), amb els quals tenen el cor dòcil i escolten (cf. 1 Re 3,9). És un do de l’Esperit Sant, que permet veure les coses amb els ulls de Déu, comprendre els vincles, les situacions, els esdeveniments i descobrir el seu sentit. Sense aquesta saviesa, l’existència es torna insípida, perquè és precisament la saviesa —l’arrel llatina de la qual sapere es relaciona amb el sabor— la que dóna gust a la vida.
Oportunitat i perill
No podem esperar aquesta saviesa de les màquines. Encara que el terme intel·ligència artificial ha suplantat al més correcte utilitzat en la literatura científica, machine learning, l’ús mateix de la paraula “intel·ligència” és enganyós. Sens dubte, les màquines posseeixen una capacitat incommensurablemente major que els humans per a emmagatzemar dades i correlacionar-los entre si, però correspon a l’home, i només a ell, desxifrar el seu significat. No es tracta, doncs, d’exigir que les màquines semblin humanes; sinó més aviat de despertar a l’home de la hipnosi en la qual ha caigut a causa del seu deliri d’omnipotència, creient-se un subjecte totalment autònom i autoreferencial, separat de tot vincle social i aliè al seu creaturalitat.
En efecte, l’home sempre ha experimentat que no pot bastar-se a si mateix i intenta superar la seva vulnerabilitat utilitzant qualsevol mitjà. Començant pels primers artefactes prehistòrics, utilitzats com a prolongació dels braços, passant pels mitjans de comunicació emprats com a prolongació de la paraula, hem arribat avui a les màquines més sofisticades que actuen com a ajuda del pensament. No obstant això, cadascuna d’aquestes realitats pot estar contaminada per la temptació original d’arribar a ser com Déu sense Déu (cf. Gn 3), és a dir, de voler conquistar per les pròpies forces el que, en canvi, hauria d’acollir-se com un do de Déu i viure’s en la relació amb els altres.
Segons l’orientació del cor, tot el que està en mans de l’home es converteix en una oportunitat o en un perill. El seu propi cos, creat per a ser un lloc de comunicació i comunió, pot convertir-se en un mitjà d’agressió. De la mateixa manera, tota extensió tècnica de l’home pot ser un instrument de servei amorós o de dominació hostil. Els sistemes d’intel·ligència artificial poden contribuir al procés d’alliberament de la ignorància i facilitar l’intercanvi d’informació entre pobles i generacions diferents. Poden, per exemple, fer accessible i comprensible una enorme riquesa de coneixements escrits en èpoques passades o fer que les persones es comuniquin en llengües que no coneixen. Però al mateix temps poden ser instruments de “contaminació cognitiva”, d’alteració de la realitat a través de narratives parcial o totalment falses que es creuen —i es comparteixen— com si anessin veritables. Basti pensar en el problema de la desinformació al qual ens enfrontem des de fa anys en forma de fake news [3] i que avui se serveix de deepfakes, és a dir, de la creació i difusió d’imatges que semblen perfectament versemblants però que són falses (també jo he estat objecte d’això), o de missatges d’àudio que utilitzen la veu d’una persona per a dir coses que mai ha dit. La simulació, que està a la base d’aquests programes, pot ser útil en alguns camps específics, però es torna perversa quan distorsiona la relació amb els altres i la realitat.
Ja des de la primera ona de la intel·ligència artificial, la dels mitjans socials, hem comprès la seva ambivalència, adonant-nos tant de les seves potencialitats com dels seus riscos i patologies. El segon nivell d’intel·ligència artificial generativa marca un salt qualitatiu indiscutible. Per tant, és important tenir la capacitat d’entendre, comprendre i regular eines que en mans equivocades podrien obrir escenaris adversos. Com tot el que ha sortit de la ment i de les mans de l’home, els algorismes. Per això, és necessari actuar preventivament, proposant models de regulació ètica per a frenar les implicacions nocives i discriminatòries, socialment injustes, dels sistemes d’intel·ligència artificial i contrarestar el seu ús en la reducció del pluralisme, la polarització de l’opinió pública o la construcció d’un pensament únic. Així doncs, renovo la meva crida exhortant a «la comunitat de les nacions a treballar unida per a adoptar un tractat internacional vinculant, que reguli el desenvolupament i l’ús de la intel·ligència artificial en les seves múltiples formes». [4] No obstant això, com en qualsevol àmbit humà, la sola reglamentació no és suficient.
Créixer en humanitat
Estem cridats a créixer junts, en humanitat i com a humanitat. El repte que tenim davant nosaltres és fer un salt qualitatiu per a estar a l’altura d’una societat complexa, multiètnica, pluralista, multireligiosa i multicultural. Ens correspon qüestionar-nos sobre el desenvolupament teòric i l’ús pràctic d’aquests nous instruments de comunicació i coneixement. Grans possibilitats de bé acompanyen al risc que tot es transformi en un càlcul abstracte, que redueixi les persones a meres dades, el pensament a un esquema, l’experiència a un cas, el bé a un benefici, i sobretot que acabem negant la unicitat de cada persona i de la seva història, dissolent la concreció de la realitat en una sèrie d’estadístiques.
La revolució digital pot fer-nos més lliures, però no certament si ens deixem atrapar pels fenòmens mediàtics avui coneguts com a cambra de ressò. En tals casos, en lloc d’augmentar el pluralisme de la informació, correm el risc de perdre’ns en un pantà desconegut, al servei dels interessos del mercat o del poder. És inacceptable que l’ús de la intel·ligència artificial condueixi a un pensament anònim, a un acoblament de dades no certificades, a una negligència col·lectiva de responsabilitat editorial. La representació de la realitat en macrodades, per molt funcional que sigui per a la gestió de les màquines, implica de fet una pèrdua substancial de la veritat de les coses, que dificulta la comunicació interpersonal i amenaça amb danyar la nostra pròpia humanitat. La informació no pot separar-se de la relació existencial: implica el cos, estar en la realitat; exigeix posar en relació no sols dades, sinó també les experiències; exigeix el rostre, la mirada i la compassió més que l’intercanvi.
Penso en els reportatges de les guerres i en la “guerra paral·lela” que es fa mitjançant campanyes de desinformació. I pinso en quants reporters resulten ferits o moren sobre el terreny per a permetre’ns veure el que han vist els seus ulls. Perquè només tocant el sofriment de nens, dones i homes podem comprendre l’absurd de les guerres.
L’ús de la intel·ligència artificial podrà contribuir positivament en el camp de la comunicació si no anul·la el paper del periodisme sobre el terreny, sinó que, per contra, el recolza; si augmenta la professionalitat de la comunicació, responsabilitzant a cada comunicador; si retorna a cada ésser humà el paper de subjecte, amb capacitat crítica, respecte de la mateixa comunicació.
Interrogants per a l’avui i per al demà
Així doncs, sorgeixen espontàniament algunes preguntes: com protegir la professionalitat i la dignitat dels treballadors de l’àmbit de la comunicació i la informació, juntament amb la dels usuaris de tot el món? Com garantir la interoperabilitat de les plataformes? Com garantir que les empreses que desenvolupen plataformes digitals assumeixin la responsabilitat del que difonen i de la qual cosa obtenen beneficis, de la mateixa manera que els editors dels mitjans de comunicació tradicionals? Com fer més transparents els criteris en els quals es basen els algorismes d’indexació i desindexació i els motors de cerca, capaces d’exaltar o cancel·lar persones i opinions, històries i cultures? Com garantir la transparència dels processos d’informació? Com fer evident l’autoria dels escrits i traçables les fonts, evitant el mantell de l’anonimat? Com posar de manifest si una imatge o un vídeo retraten un esdeveniment o el simulen? Com evitar que les fonts es redueixin a un pensament únic, elaborat algorítmicament? I com fomentar, en canvi, un entorn que preservi el pluralisme i representi la complexitat de la realitat? Com fer sostenible aquesta eina potent, costosa i d’alt consum energètic? Com fer-la accessible també als països en desenvolupament?
A partir de les respostes a aquestes i altres preguntes, comprendrem si la intel·ligència artificial acabarà construint noves castes basades en el domini de la informació, generant noves formes d’explotació i desigualtat; o si, per contra, portarà més igualtat, promovent una informació correcta i una major consciència del canvi d’època que estem vivint, afavorint l’escolta de les múltiples necessitats de les persones i dels pobles, en un sistema d’informació articulat i pluralista. D’una banda, plana l’espectre d’una nova esclavitud, per l’altra, una conquesta de la llibertat; d’una banda, la possibilitat que uns pocs condicionin el pensament de tots, per un altre, la possibilitat que tots participin en l’elaboració del pensament.
La resposta no està escrita, depèn de nosaltres. Correspon a l’home decidir si es converteix en aliment d’algorismes o en canvi sí que alimenta el seu cor amb la llibertat, aquest cor sense el qual no creixeríem en saviesa. Aquesta saviesa madura traient profit del temps i comprenent les febleses. Creix en l’aliança entre generacions, entre els qui tenen memòria del passat i els qui tenen visió de futur. Només junts creix la capacitat de discernir, de vigilar, de veure les coses a partir del seu compliment. Per a no perdre la nostra humanitat, busquem la Saviesa que és anterior a totes les coses (cf. Si 1,4), la que passant pels cors purs fa amics de Déu profetes (cf. Sab 7,27). Ella ens ajudarà també a orientar els sistemes d’intel·ligència artificial a una comunicació plenament humana.
Roma, a Sant Joan de Letrán, 24 de gener de 2024
FRANCISCO
[1] Cartes del Llac de Com, Pamplona 2013, 101-104.
[2] En continuïtat amb els Missatges de les anteriors Jornades Mundials de les Comunicacions Socials, dedicades a trobar a les persones on estan i com són (2021), escoltar amb les oïdes del cor (2022) i parlar amb el cor (2023).
[3] “La veritat us farà lliures” (Jn 8, 32). Fake news i periodisme de pau. Missatge de la 52 Jornada Mundial de les Comunicacions Socials, 2018.
[4] Missatge per a la Celebració de la 57 Jornada Mundial de la Pau (1 gener 2024), 8.
[Text original: Italià]
