Íme XIV. Leó pápa intelmei a mesterséges intelligenciáról – megjelent a Magnifica Humanitas

XIV. Leó pápa hétfőn délelőtt 11 óra 30 perckor lépett a vatikáni szinódusi aula pódiumára, hogy személyesen mutassa be Magnifica humanitas (Fenséges/nagyszerű/magasztos emberiség/emberség) kezdetű első enciklikáját, a katolikus egyház első olyan hivatalos teológiai dokumentumát, amelyet teljes egészében a mesterséges intelligenciának szenteltek. A pápa megtörte a vatikáni hagyományt azzal, hogy személyesen szólalt fel saját enciklikájának bemutatóján, ami önmagában is jelzi, hogy milyen sürgetőnek tartja az AI okozta társadalmi jelenségek megvitatását. A pápa mellett nemcsak vatikáni méltóságok és teológus professzorok foglaltak helyet a bemutatón, hanem Christopher Olah, az Anthropic társalapítója is jelen volt, akit a mesterséges intelligencia mechanisztikus értelmezését (tehát a rejtélyesen működő AI-modellek neurális folyamatainak feltérképezését) végző tudományterület megteremtőjeként tartanak számon.

Az enciklikát május 15-én írta alá a pápa, ami egy szándékosan választott dátum volt – erre a napra esett az amerikai pápa névadója, XIII. Leó Rerum novarum kezdetű, korszakalkotó enciklikájának 135. évfordulója. Az 1891-ben kiadott dokumentum az ipari forradalom idején a munkások méltóságát védte, és ezzel megalapozta a modern katolikus szociális tanítást. Azzal, hogy XIV. Leó erre az évfordulóra datálta első enciklikájának aláírását, még annak megjelenése előtt megfogalmazta az alapállását: amit a mesterséges intelligencia ma az emberiséggel tesz, ugyanolyan mélyreható és ugyanolyan veszélyes, mint amit az iparosodás tett a világgal a 19. század végén, ezért az egyháznak erkölcsi kötelessége megszólalni az ügyben.

Maga a dokumentum (amelynek angol nyelvű szövege itt olvasható) meglehetősen terjedelmes: a bevezetés után öt fejezetből áll, amit 245 különálló pontra tagoltak. Az aktuális technológiai forradalom átfogó diagnózisából indít, majd az egyház szociális tanítását kínálja vezérfonalként, végül konkrét, helyenként meglepően határozott előírásokat sorol fel. Az alaphangot a negyedik pont üti meg: „Az emberiségnek soha nem volt ekkora hatalma önmaga felett.” Ezzel azt a gondolatot vezeti fel, hogy a technológia által nyújtott rendkívüli képességeket azelőtt kapták kézhez az emberek, hogy a szükséges bölcsesség is megérkezett volna mellé. Leó szerint ugyanis az AI jelentette kihívás elsősorban nem technológiai, hanem antropológiai jellegű, mivel a mesterséges intelligencia egy filozófiai szinten régóta hangoztatott kérdéssel szembesíti az emberiséget: mit ér az emberi kreativitás, a munka, a kapcsolatok és a tudat, ha gépek is elvégezhetik ezeket? A katolikus válasz az Imago Dei tanából táplálkozik: az ember Isten képmására teremtetett, és ez a képmás magában foglalja a kreativitást, a szeretetet, az egyediséget és az erkölcsi felelősséget. Ezek pedig nem reprodukálható tulajdonságok, és az enciklika ragaszkodik ahhoz, hogy az ellenkező feltételezés nem csupán az egyénnek, hanem az egész civilizációnak árt.

A dokumentum egyik legsúlyosabb része a mesterségesen generált arcokról és hangokról szól. XIV. Leó a deepfake jelenséget elsősorban nem dezinformációs problémaként értelmezi (bár ezt a szempontot is tárgyalja), hanem az emberi érintkezés közegét ért támadásként értelmezi. Az enciklika ebben a témában visszanyúl a pápa egy januári, a társadalmi kommunikáció világnapjához kapcsolódó üzenetéhez, amelyben már leszögezte: az AI-rendszerek azzal, hogy „emberi hangokat és arcokat, bölcsességet és tudást, tudatot és felelősséget, empátiát és barátságot szimulálnak, nemcsak az információs ökoszisztémába avatkoznak be, hanem a kommunikáció legmélyebb szintjére, az emberi kapcsolatok szférájába is behatolnak”. Az emberi arc és hang ebben az értelmezési keretben nemcsak praktikus azonosítójegy, hanem az a közeg, amelyen keresztül bizalom, bensőség és valódi kapcsolat jöhet létre. Mesterséges utánzásuk erőszakos behatolás valami olyanba, ami elválaszthatatlanul a személyes mivoltunkhoz tartozik. „Szükségünk van arcokra és hangokra, amelyek valóban az emberek nevében beszélnek” – írja Leó. A pápa arra figyelmeztet, hogy „a világ annak a megélésnek a fogyatkozását tapasztalja meg, hogy mit is jelent embernek lenni”.

A háború kérdésében a pápa a határozott erkölcsi elítélés nyelvét használja. A római La Sapienza Egyetemen május 14-én elhangzott beszéde már előrevetítette az enciklika álláspontját: a mesterséges intelligencia alkalmazása a modern fegyveres konfliktusokban, így Ukrajnában, Gázában, Libanonban vagy Iránban „a háború és az új technológiák közötti kapcsolat embertelen evolúcióját jelenti a megsemmisítés spiráljában”. Az enciklika az érdemi emberi felügyelet nélkül működő, halálos autonóm fegyverrendszerek kategorikus betiltására szólít fel. Ez ugyanis az egyházfő szerint nem politikai preferencia kérdése, hanem erkölcsi abszolútum: az emberi élet kioltására vonatkozó döntéseket nem lehet átruházni egy olyan rendszerre, amely alkatilag képtelen felfogni döntéseinek erkölcsi súlyát.

XIII. Leó 1891-es Rerum novarumjának szelleme a Magnifica humanitas azon pontjaiban kísért leginkább, amelyek a munka és a gazdaság kérdéseit tárgyalják. XIII. Leó az ipari kapitalizmus logikájával szemben amellett érvelt, hogy a munka nem árucikk, és a munkások olyan, velük született méltósággal bírnak, amely nem bocsátható áruba. XIV. Leó ugyanezt állítja az automatizáció korában. Az enciklika az emberi alkotómunka gépi kiváltásának veszélyét tárgyalva visszautal arra az üzenetre, amelyet a pápa még a 2025. decemberi római AI-konferencián fogalmazott meg: akkor arra figyelmeztette a jelenlévőket, hogy az AI-rendszerek „egyre inkább átveszik az irányítást szövegek, zenék és videók előállítása felett”, és ezzel a mesterséges intelligencia az embereket „átgondolatlan gondolatok és névtelen termékek passzív fogyasztóivá teszi, személyes kötődés vagy szeretet nélkül”. Az enciklika ezt a gondolatmenetet az egyházi szociális tanítás elvrendszerébe helyezi: a személy méltóságát, a közjót, a szubszidiaritást, a szolidaritást és az igazságosságot kínálja mércéül, amellyel minden technológia megítélhető. Az igazságos béreket a teljes társadalmi-gazdasági rendszer igazságosságának kézzelfogható mérőfokaként mutatja be, mivel ezek mutatják meg, hogy a munkavállalóra személyként tekintenek-e, vagy csak egyszerű költségtételként.

Az enciklika elismeri, hogy a mesterséges intelligencia valós munkahelyeket szüntet meg, és figyelmeztet, hogy a válságot nem lehet csupán utólagos átképzési programokkal orvosolni. A dokumentum ennél sokkal mélyrehatóbb változást sürget: a technológiai átalakulást már a tervezési fázisban társadalmi kontroll alá kell vonni, és teljesen újra kell gondolni a munka és az állampolgári jogok kapcsolatát. A pápa rámutat: ha egy technológiailag fejlett társadalomban a tömegek kényszerű tétlenségre ítéltetnek, az anyagi haladás mellett is mély emberi visszafejlődés következik be. Emiatt a puszta GDP-szemlélet helyett olyan új mérőszámokra van szükség, amelyek a munka emberi minőségét vizsgálják. A válság kezelésére az enciklika konkrét gazdaságpolitikai lépéseket követel: progresszív jóléti intézkedéseket a javak igazságosabb újraelosztására, valamint új jogok biztosítását az alapvető javakhoz való hozzáférésre, hogy a munkahelyek elvesztése ne vezessen a társadalomból való kirekesztődéshez.

Christopher Olah a szinódusi aulában felszólalva a technológiai szektor részéről ritkán látott, nyílt önkritikát gyakorolt. Az Anthropic társalapítója kijelentette, hogy az olyan vezető AI-cégek, mint amelynek ő is az egyik szószólója, óriási kereskedelmi, geopolitikai és személyes nyomás alatt működnek, és ez a piaci versenyhelyzet olyan kényszereket és ösztönzőket teremt, amelyek időnként óhatatlanul ütköznek azzal, amit morálisan helyes cselekedetnek nevezünk. Ezért elengedhetetlennek tartja a folyamat külső, techvilágon kívüli (például egyházi vagy kormányzati) etikai ellenőrzését. A munkaerőpiaci hatásokról szólva elismerte, hogy reális esély van a munkahelyek „nagyon nagy arányú” gépi kiváltására, ezért arra figyelmeztetett, hogy amennyiben ez a forgatókönyv megvalósul, a technológia miatt egzisztenciájukat vesztett tömegek állami és társadalmi támogatása nem jótékonysági kérdés, hanem a kollektív felelősségvállalás történelmi próbája lesz.

Az enciklika az AI ideológiai kérdéseit is érinti, közvetlenül foglalkozik például a transzhumanizmussal és a poszthumanizmussal, vagyis azokkal a filozófiai irányzatokkal, amelyek a technológiától az emberi korlátok, az öregedés és végső soron maga a halál felszámolását várják. XIV. Leó nem söpri ezeket szélsőséges nézetként az asztal alá, helyette a szenvedés csökkentésének észszerű vágyával induló és az emberi állapot tagadásával végző fejlődési ív logikus végpontjának tekinti őket. Az enciklika az inkarnációt (azt, hogy Isten emberré lett, elfogadva a korlátokat, a szenvedést és a halandóságot) kínálja teológiai ellenérvként: a sebezhetőség nem kiküszöbölendő hiba, hanem a személyként való létezés velejárója.

A technokrata paradigma kritikájaként XIV. Leó arra figyelmeztet, hogy az AI elterjedése egy olyan „emberellenes látásmódot” normalizálhat, amely az élet teljességét a puszta hatékonysággal és a teljes kontrollal azonosítja. Ezzel szemben leszögezi, hogy a civilizáció minőségét az méri, képes-e a másikat „arcként, és nem csupán funkcióként” elismerni. A transzhumanizmus által ígért, tisztán technikai jellegű „üdvösség” valójában a legsúlyosabb egzisztenciális veszélyt hordozza: ha az embert tökéletesítendő projektként kezeljük, törvényszerűen elfogadhatóbbá válik, hogy egyes életek „kevésbé hasznosak vagy kevésbé méltók”. A sebezhetőség mesterséges kiiktatása a pápa szerint magát a szeretetet ölné meg az emberben, hiszen „aki szeret és vágyakozik, az nem kerülheti el, hogy próbákon és szenvedéseken menjen keresztül”. A technológiai fejlődésnek ezért úgy kell irányt szabni, hogy az ne az emberi természet meghaladását, hanem a közösségi kötelékek és a kölcsönös gondoskodás megerősítését szolgálja.

Az enciklikáról az AI Híradó legutóbbi adásában is beszéltünk:

Kapcsolódó cikkek a Qubiten:

* * *

Júniusban a 13. Qubit Live-on folytatjuk korunk talán legnagyobb technológiai és társadalmi kihívása, a mesterséges intelligencia (AI) vizsgálatát. Most az AI-modellek korlátaira és az AI körüli hype-ra, valamint az általános mesterséges intelligencia (AGI) lehetőségére fogunk fókuszálni.

Velünk lesz Jelasity Márk informatikus-matematikus-nyelvész, a Szegedi Tudományegyetem Mesterséges Intelligencia Tanszékének vezetője, Kocsis Levente matematikus, a HUN-REN Sztaki tudományos főmunkatársa, Pintér Róbert szociológus-politológus, a Corvinus Egyetem docense, Móró Tamás és Jónap Richárd közgazdászok, a Concorde Értékpapír Zrt. stratégái és Kizlinger Lilla, Ezüst Medve díjas színművész. Ha nem szeretnél lemaradni, iratkozz fel mielőbb a Qubit+-ra! Az estet a Concorde Értékpapír Zrt. támogatja.