Lőw rabbitól Elon Muskig: teremtsünk gólemet, mi baj lehet belőle?
A gólemet, a zsidó miszticizmus automatizált, de mégsem egészen élő agyagemberét a legtöbben a csodatévő prágai Lőw rabbi nevéhez kötik, de a kifejezést az utóbbi időben széles körben alkalmazzák a mesterséges intelligenciára is. A rabbi állítólag a 16. században megelégelte a favágást és a vízhordást, ezért agyagból egy szolgát készített magának, aki elvégezte helyette ezeket a feladatokat. Más szóval a rabbi egy robotot alkotott, amit ráadásul (mesterséges) intelligenciával is felruházott.
Akármekkora csodákat is tulajdonítottak Lőwnek, a kortárs beszámolók és a saját szövegei alapján a gólemalkotás nem tartozott ezek közé: sem az ő szövegeiben, sem a kortársak beszámolói között nem írnak ilyesmiről, a legkorábbi hasonló történetek pedig csak jóval a rabbi halála után, a 19. század első felében jelentek meg, és még ezek sem szóltak egyébről, mint egy házimunkát végző robotról. Az idők során Yossele, a gólem mégis a zsidóság védelmezőjeként vonult be a köztudatba.
Rosenberg gólemje
Ezért javarészt egy Yehuda Yudl Rosenberg nevű varsói rabbi tehető felelőssé, a bosszúálló-védelmező Yossele ugyanis javarészt az ő teremtménye, méghozzá a 20. század elejéről. Rosenberg a történet szerint a metzi múzeum könyvtárában különös, több száz éves kéziratra bukkant, amit állítása szerint Yitzhak Kohen, Lőw veje írt, és amiben a rabbi csodatetteiről számolt be. A varsói rabbi sem volt rest: egyből a nagyközönség elé tárta a történeteket héber és jiddis fordításban, hogy minél több olvasóhoz juthassanak el.
Mint kiderült, Rosenberg könyve hamisítvány volt (a Litera cikkéből az is kiderül, hogy hány ponton bukott meg a történet), a gólemet viszont már nem lehetett visszazárni a palackba. A varsói rabbi úgy gondolhatta, hogy a történet jobban felkelti majd az olvasók figyelmét, ha egy bevett irodalmi trükkel másnak tulajdonítja a szerzőséget, majd az első kiadás után arra is rájött, hogy bizony az olvasóknak csak egy elenyésző részét érdeklik a teológiai-misztikus okfejtések, így ezek jó részét a jiddis kiadásból már ki is hagyta.
A reklámokat viszont nem hagyta ki: a saját könyvei még az eredeti kéziratot is meghirdette, igaz, olyan pofátlanul magas áron, hogy biztosra vehette, hogy senki nem fog jelentkezni érte, az eredettörténethez viszont igazolásként jól jött. A médiahack mellett Rosenbergnek még egy oka volt rá, hogy eltitkolja a szerzőségét: a varsói ortodox zsidók nem nézték jó szemmel a világi irodalmat, aminek a rabbi egyébként akkora rajongója volt, hogy egy másik történetét egyenesen Sir Arthur Conan Doyle egyik Sherlock Holmes-történetéből lopta. A gólem és a prágai Maharal csodálatas cselekedetei mindenesetre megjelent, óriási siker lett, és hamarosan egész Európában, sőt, még Amerikában is sikert aratott.
Ez utóbbiból mondjuk magának Rosensteinnek nem túl sok haszna volt: a babérokat Chayim Bloch, a mű német kiadója aratta le, aki a könyv 1917-es megjelenésekor saját magát állította be a kézirat megtalálójaként, és a könyvet bemutatta az Egyesült Államokban is („már ezen egyszerű előadásból is kicsap ama régi idő fűszeres, erős levegője”, lelkendezik a fordítás bevezetőjében Bloch nyolc évvel az eredeti megjelenése után). Nem sokkal a Maharal megjelenése után jött Gustav Meyrink regénye, a Gólem, majd a Gólem című német némafilm.
A néma gólem
Persze nem Rosenstein találta fel a gólemet, csak ő hozta divatba: az ő feldolgozásában már volt neve is a lénynek, és lényegesen többre volt képes, mint fát vágni meg vizet hordani. Miközben a középkor keresztény alkimistáit a homonkulusz létrehozása foglalkoztatta, a zsidó misztikusok más vonalon ugyan, de hasonló projekten törték a fejüket. Maga a gólem szó egyszer szerepel a Bibliában, Ádám pedig a legtöbb értelmező szerint lélek nélküli emberi formát, anyagot ért alatta.
A Talmudban Rává, a bölcs vállalkozott egy ember megteremtésére: porból vette hozzá az agyagot, és hatalmában állt életet, vagy legalábbis valami hasonlót adni neki. Az nem világos, hogy Rává hogyan is készített gólemet, de a későbbi értelmezések arra hajlottak, hogy az ilyesmi igenis lehetséges, és nem számít bűnnek vagy bűnös varázslatnak, a gólem elveszejtése pedig nem számít gyilkosságnak. Közös pont volt közöttük, hogy nem tudtak beszélni: erre még Yossele sem volt képes. A másik közös vonás az volt, hogy gépként, és nem emberként viselkedtek: egyszerű feladatok ellátására hozták őket létre, és gépként is tekintettek rájuk, Yossele viszont személyiséget kapott. Ahhoz képest, hogy milyen fiatal történet az övé, szédületes karriert futott be: Rosenberg könyvének előszavában azt írják, hogy a gólemtörténetek szájhagyomány útján és kalózkiadásokban apróbb változtatásokkal kezdtek terjedni, és némi torzulás után a világ legtöbb pontjára eljutottak.
A gólem démonjai
Miközben a zsidó misztikusok a héber ábécé betűivel próbáltak életet csiholni a gólemekbe (ennek pedig a középkori szövegekben több módját is ismertették, amelyek az anyag előkészítésétől a betűk megfelelő kombinációjáig terjedt), az alkimisták más utat választottak. Rollo Ahmed feketemágia-szakértő szerint Paracelsus 16. századi svájci orvos meglehetős sikereket ért el a homonkuluszkészítésben, amihez különféle vegyi anyagokat helyezett el egy üvegtégelybe, amit aztán trágyába temetett (az elképzelés hasonló a magyar babonákban is megtalálható ludvércek kikeltetéséhez).
Ennél érdekesebb Albertus Magnus kísérlete, aki rézből próbált létrehozni egy modern kori értelemben vett robotot, ehhez az embergép részeit a megfelelőnek tartott asztrológiai együttálások alkalmával hegesztette össze. A gólemekkel ellentétben a teremtmény nem volt néma, sőt, túl sokat is locsogott, így a legenda szerint maga Szent Tamás némította el egy ökölcsapással. A gólemekkel ellentétben az ehhez hasonló rézből készült fejek a közfelfogás szerint rendelkeztek valamiféle lélekkel, de ahogy Szent Tamás is gyanította, démonok szóltak a szájukon keresztül, és különböző kincsek ígéretével próbálták megvezetni a megidézőiket.
A gólem dilemmái
A gólemben viszont nem démon lakik, hanem a héber ábécé: ez ad neki életet, de – legalábbis Yossele megjelenéséig – valódi értelmet nem. A kódban viszont benne van, és mindig is benne volt az értelem lehetősége, és ezért is érdekesebb, mint a démonok által megszállt rézfejek: ha démoni intelligenciáról van szó, az mégis valami embertől független dolog, a gólem viszont csak utasításokat teljesít, programozva van.
Eugen Octav Popa, a hollandiai Twentei Egyetem kutatója szerint az emberiség kétféle technológiai veszélyt testesített meg a mitológiai alakokban, ezek egyike a gólem, a másika pedig a Thomas Hobbes által köztudatba emelt Leviatán. Mindkettő bibliai gyökerű, és mindkettő különböző kihívásokat vet fel: a gólemmel együtt jár a Collingridge-dilemma, a Leviatánnal pedig a Münchhausen-trilemma.
A Collingridge-dilemma szerint egy fejlődő technológia következményei még nem ismertek, vagy ha azok is, csak egy szűk kör, a fejlesztők számára láthatók, és még ők sem tudják megjósolni, hogy hová vezet a fejlődés. Jó példa erre az internet: harminc éve kevesen tudták elképzelni, hogy mennyire meghatározza majd a mai életet. Lőw rabbi, amikor létrehozta Yosselét, jót akart: meghatározott feladatot adott neki, de amikor Yossele elvégezte a munkáját, nem volt rá többé szükség, mennie kellett. A zsidó hittudósok szerint az, hogy elvették a gólemtől az életet adó szavakat, nem számít gyilkosságnak, de a hősgólem előtti példák jól mutatták, hogy mire vezethet a rossz kódolás: ha azzal bíztak meg egy gólemet, hogy merjen ki egy folyót, abba nem hagyta addig, míg el nem árasztotta a várost vízzel.
Terry Pratchettnél a gólemek ennek megfelelően a Korongvilág kulimunkásai voltak, de ügyelni kellett rá, hogy milyen utasításokkal látják el őket: amelyiket arra utasították, hogy ásson, és elfelejtettek szólni neki, hogy hagyja abba, átásta az egész világot. Szigorúan véve Frankenstein szörnye is gólem: szellem nélküli test, amibe valahogy mégis utat talált az érzelem, és ahogy Frankenstein példája is mutatja, ez a fajta félelem egyidős a modern tudománnyal. Lőw rabbi ugyan nem csinált gólemet, de csinálhatott is volna: hitt benne, hogy a világ tökéletlen, de javítható. A kora újkori tudományos forradalom eszközzé vagy tárggyá tette az embert, gólemmé, ha úgy tetszik: Descartes gondolkodásában semmilyen különbség nem mutatkozott az óraművel működő robotok és az emberi test között, a szellemet kivéve. A gólemnek nincs saját akarata, csak azzal dolgozik, amire programozták, ezért a teremtője felelős mindenért, amit tesz.
A mesterséges intelligencia megjelenésével ez a kérdés különösen érdekessé vált, az algoritmusok már úgy gondolkodnak, hogy gyakran maga a programozó sem tudja megjósolni, hogy mit tesznek majd a jövőben. Az etikai felelősség kérdését még mindig nem tisztázták, de ahogyan az önvezető autók példájából is látszik, azért ennek gyakorlati következményei is vannak: ha egy autó elgázol egy biciklist, az már nem gondolatkísérlet.
A gólem mocsara
A Münchhausen-trilemmában az ember azzal szembesül, hogy a saját hajánál fogva kellene kihúznia magát a mocsárból. A hazudós báró híres története szerint elmerült a mocsárban, de nemcsak saját magát, hanem még a lovát is ki tudta húzni belőle. Popa szerint a gólem mellett a Leviatán, a társadalmat irányító szuverén is a technika veszélyeire hívja fel a figyelmet: a gólemhez hasonlóan ez is olyan emberi konstrukció, amely képes elszabadulni, az egyensúly felborulásának pedig beláthatatlan következményei lehetnek. Ez a konstrukció és az ebben lévő hibák is veszélyesek, de a Leviatán nem úgy programozható, mint a gólem, és a hibalehetőségei is mások.
A semleges gólem
Visszatérve a gólemhez: maga a gólem önmagában nem jó és nem rossz, a működését vezérlő parancsok viszont még akkor is veszélyesek lehetnek, ha alapvetően jó szándék vezérli a kiadóit. Moshe Idel filozófus, rabbi és gólemszakértő szerint a párhuzam olyannyira nem erőltetett, hogy Norbert Wiener, a modern kibernetika atyja is a robotizáció előképének tekintette a gólemet. Idel szerint a zsidó misztikában a gólem a teremtés aktusa miatt fontos, nem azért, amire képes: ebből a szempontból mindegy is, hogy favágásra vagy bármi másra optimalizálják.
A gólemről szóló misztikus szövegek is inkább az Istenhez való hasonlóság kérdésével foglalkoznak, illetve a gólem metafizikai vagy ontológiai státuszával, nem a gyakorlati felhasználásával. A gólemkutató szerint a 13. századtól kezdve legalább ötféle különböző módszert ismertetnek, de ezek gyökerei valószínűleg korábbra nyúlnak vissza; Idel szerint már magában az, hogy a klasszikus gólemábrázolás homlokán az emet, „igazság” szó látható, ez pedig szerinte egyértelmű visszautalás a görögségre és arra a történetre, amely szerint Prométheusz agyagból formázta meg az igazság szobrát. Persze az sem véletlen, hogy Mary Shelley 1818-ban éppen A modern Prométheusz alcímet adta a Frankensteinnek – ahol a doktor teremtménye végső soron hasonló státuszt foglalt el, mint egy gólem.
A gólem elszabadul
A gólemtörténetek visszatérő vonása, hogy alkotója egy idő után már nem tudja kontrollálni, hogy mit művel a teremtmény, ez pedig a mesterséges intelligencia fejlődésével már nem is science-fiction, hanem maga a valóság. Amir Vudka, az Amszterdami Egyetem filozófusa szerint a régi gólemtörténetek alapvetően meghatározzák az ember viszonyát a technikához: nem véletlen az sem, hogy Wiener a tudomány és a vallás határmezsgyéjének nevezte a kibernetikát, ahogyan az sem, hogy a legtöbb AI-disztópiában ugyanaz történik, mint a gólem esetében: a lény öntudatra ébred, és annak ellenére, hogy az élet megkönnyítésére programozták, végül veszélyt jelent a megalkotóira. A gólem teremtése magát a bibliai teremtést másolja: ahogyan az Isten által megalkotott tökéletes embert is kontrollálhatatlanná tette, hogy evett a tudás fájáról.
Ez Vudka szerint egyszerre romlás és fejlődés: az ember, aki életet kapott Istentől, „életet” ad a gólemnek is, ami, ha megfelelő intelligenciát is kap hozzá, akár a teremtőjét is legyőzheti. Frankenstein szörnye megpróbálta, és egyre többen tartanak attól, hogy a mesterséges intelligencia is felülkerekedhet a teremtőin. A félelem nem új, a science fiction és a rémtörténetek egész történetén végigvonul: Isaac Bashevis Singer egy 1984-es beszédében már egyenesen azt állította, hogy a robotok és a számítógépek korunk gólemjei, az új technológia pedig lehetővé teszi az ember számára, hogy ahhoz hasonló képességekkel ruházza fel a teremtményét, mint amilyeneket Isten adott Ádámnak.
A ragadozó gólem
Nem biztos, hogy ezt a félelmet paranoia szülte. Manuel DeLanda filozófus szerint mire megjelenik a Földön a szintetikus intelligencia, már egy saját evolúciós niche fogja várni, méghozzá egy ragadozóé. Ha a mesterséges intelligencia nem is vadászna kifejezetten az emberre, félő, hogy legalább a munkáját elveszi majd: ez persze egyszerre lehet áldás és átok is. Lőw rabbi nem véletlenül teremtett volna magának vízhordó robotot – nem volt kedve vizet hrodani és fát hasogatni: az AI hívei szerint az emberek elbúcsúzhatnak a kényelmetlen vagy veszélyes munkáktól, ha azokat robotok végzik majd. A robotellenesek viszont attól tartanak, hogy a folyamatból így el is fog veszni az ember: Nick Bostrom filozófus szerint ahogyan a gorillák túlélése most az embereken múlik, úgy az emberiség túlélése is a jövőben megjelenő mesterséges szuperintelligencia kényére-kedvére lesz bízva.
Neo és a gólem
Nem kell homályos teológiai szövegeket böngészni ahhoz, hogy az embernek ismerős legyen ez a forgatókönyv: a Mátrix, a Terminátor, a Blade Runner, sőt, Asimov robotikája is ebből a félelemből táplálkozik. Nem lenne szükség a robotika három törvényére, ha az ember nem akarná bebiztosítani magát a potenciális fenyegetés ellen – és a három törvény mit sem ér, ha a robot eszesebb lesz, mint egy egész regimentnyi jogász vagy mérnök. Egy idei kutatás szerint a házimunkák 39 százalékát tíz éven belül robotok láthatják majd el – de könnyen lehet, hogy eközben nemcsak hogy emberi munkaerőre, hanem emberekre sem lesz már szükség. Sam Altman techguru, az OpenAI vezérigazgatója szerint elképzelhető, hogy a robotforradalom elképesztő haszonnal jár majd, de ha nem vigyázunk, az is megtörténhet, hogy az emberiségnek harangoznak. És ezt olyasvalaki mondja, aki nem elég, hogy szereti a robotokat, hanem még fejleszti is őket.
A megváltó gólem
Altman szerint az emberiség hihetetlen technológiai forradalom előtt áll, és ő a maga részéről arra szavaz, hogy inkább alkalmazkodni kell hozzá, mint küzdeni ellene. Ez, ha csak a sci-fit nézzük, még csak nem is túl eredeti ötlet: a Mátrixban Neo megváltóként már nem a gépek ellen küzdött, hanem összeolvadt a programmal, hogy megmentse a világot, a Terminátorban pedig Schwarzenegger is élő szövetként, fémvázon vette fel a küzdelmet a Skynet ellen.
Azt, hogy mit hoz a jövő, persze senki sem tudja: Vudka szerint ugyanúgy elképzelhető az apokalipszis, mint a szép új világ, de egy fontos párhuzamra azért felhívja a figyelmet. A gólemtörténetekben a pusztítás és a teremtés kéz a kézben jár: Walter Benjamin német filozófus történelemszemlélete szerint pedig az is természetes, hogy a ciklikusság a gólem történetében is megjelenik. Az ember fellázadt Isten ellen, a gólem fellázad az ember ellen, de nem kötelező dualizmusban gondolkodni: könnyen lehet, hogy a határok átlépésével Elon Musk és Sam Altman stratégiája, az ember-gép-hibrid lesz a nyerő, ami Schwarzenegger karakteréhez hasonlóan akár még megváltást is hozhat a Földnek. Vagy tényleg villanyoltás jön.
Kapcsolódó cikkek a Qubiten:
