Az öröm masinériái: valóban az emberiség bukásához vezet az ember hedonizmusa?

Nincsen jövőnk tudomány nélkül, nincsen Qubit nélkületek. Támogasd a munkánkat!

A sci-fi halhatatlan mestere, Stanisław Lem látta a jövőt, és nem tetszett neki, amit látott. Nem volt egyedül: a futurológia rövid történetében egymást érték azok a jóslatok, amelyek vagy beváltak, vagy nem. Akadt köztük olyan, ami filozófiai alapon próbálta meg megjósolni, milyen élet vár majd az emberre az ezredfordulón, mások a pszichológiából, a genetikából vagy a technika fejlődéséből próbáltak meg kihozni valamit. John Desmond Bernal ír tudományfilozófus, molekuláris biológus 1929-ben androidokat álmodott a jövőbe. Bernal a felvilágosodás szellemében hitt abban, hogy az emberi test tökéletesíthető, és idővel olyan mesterséges érzékszervekkel bővíthető, amivel kibővíthető az érzékelés világa, sőt, a mechanikus bővítményekkel az öregedés, a szervi hibák és a halál is legyőzhető lesz.

JBS Haldane

John Burdon Sanderson (JBS) Haldane brit biológus, Aldous Huxley író közeli barátja 1923-ban úgy gondolta, hogy az emberiség hamarosan megszabadulhat a szüléssel járó veszélyektől és kellemetlenségektől, az embereket pedig mesterséges méhekben, tartályokban fogják kitenyészteni. Ismerős? Nem véletlen: az ötletet Huxley is felhasználta a Szép új világban, de számtalan formában felmerült azóta, elég csak a Mátrix embertelepeire gondolni. Haldane viszont se nem tréfált, se nem bolondozott: úgy gondolta, hogy mindez egyszer meg is valósul. A biológus makacssága a Daedalus: or, Science and the Future című könyvének megjelenése után negyven évvel sem csökkent, sőt még a hatvanas években is azt hangoztatta egy futurológiai konferencián, hogy már tényleg küszöbön áll az embergyárak létrehozása. Ebben ő nem fenyegetést, hanem lehetőséget látott, egyébként a klón szót is neki köszönhetjük.

Világ munkásai 

Max Saunders, a Birminghami Egyetem irodalomprofesszora szerint Bernal és Haldane ötleteinek egy része, leginkább a fejlődés közösségi jellege arra vezethető vissza, hogy mindketten szimpatizáltak a marxista eszmékkel: Bernal összekötött emberei maguk az egyesült munkások (munkás-kiborgok). Annak ellenére, hogy a két kutató milyen potenciált látott a szép új világban, az árnyoldalaira is figyelmeztettek, és itt találkozik Lem, Huxley, Bernal és Haldane, no meg még sokan mások.

Stanislaw LemFotó: ULRICH SCHNARR/APA-PictureDesk via AFP

Lem a Summa Technologiae-ben számos jóslatot (vagy figyelmeztetést) tett, ezek közül pedig az egyik feltételezés az volt, hogy bármilyen civilizáció, amely elér egy megfelelő fejlettségi fokot, automatikusan elkényelmesedik, majd belefullad a hedonizmusba. A szerző szerint még az is elképzelhető, hogy épp ez az oka annak, hogy az emberiség eddig nem találkozott idegen civilizációkkal: ahogy elérték ezt a fejlettségi fokot, sokkal kényelmesebb és egyszerűbb örömforrásokra akadtak, mint a drága, kényelmetlen és veszélyes űrutazás (Neo is mennyivel kényelmesebben megúszta volna az egészet, ha a kék tablettát választja, ugye). 

Ez persze az ő dolguk, de Lem úgy gondolta, hogy ez a veszély az emberiséget is utolérheti: a virtuális valóság tökéletesedésével, az egyre fejlettebb drogokkal és a könnyen és egyszerűen hozzáférhető instant tudással (az internettel) egyre nő az emberiség eltunyulásának és elbutulásának veszélye is. Ha ennek az azonnal hozzáférhető tudásnak akár csak egy része elvész, az jóvátehetetlen károkat okozhat az emberiség egészének. Ha nem lesz Google Maps, a sok hülye ott fog éhen halni egy Pizza Hut vagy egy Meki sarkán.

Ráció és degeneráció 

Haldane, Bernal és Huxley hasonló fejleményektől tartott: az amerikai analitikus filozófus, Hilary Putnam Agyak a tartályban című híres gondolatkísérletben szereplő én nem tudja megkülönböztetni egymástól a mesterséges és a természetes impulzusokat, így az sem biztos, hogy a tudatán kívül bármi létezik belőle – lehet, hogy csak az agyba vezetett elektromos impulzusok hatására képzeli el a valóságot. 

Ehhez nem kell őrült tudós és különösebben beteg fantázia sem: Ray Lankester brit biológus már a tizenkilencedik században megfejtette, hogy ez a fajta satnyulás egy természetes evolúciós folyamat eredménye is lehet, és Haldane osztotta az aggodalmait. Lankester a Degeneration: A Chapter in Darwinism című művében amellett érvelt, hogy a környezeti kihívásoknak megfelelően egy-egy faj nemcsak fejlődni tud, hanem degenerálódhat is: a paraziták némelyike a mostani állapotához képest daliás teremtmény lehetett, de egyszerűen nem volt szüksége ennyi, az életmódjához képest felesleges szervre, így redukálódott primitív, süket, vak és hülye életformává, már az előző fázisaihoz képest. 

Fertőzött tarisznyarák. A kilógó izé a parazitaFotó: Wikimedia Commons

Lankester szerint ez történt azzal a parazitával is, amely előszeretettel fertőzi meg a parti tarisznyarákokat (Carcinus maenas). A Sacculina carcini nevű kagyló átszövi a gazdaállat testét, és terméketlenné teszi, míg végül a rák elpusztul. A biológus szerint a regresszió tökéletes bizonyítéka, hogy a parazita életpályájának elején még rendelkezik fejjel, miután viszont csatlakozik a gazdatesthez, a fej eltűnik, az állat pedig beolvad a préda testébe, gyakorlatilag megkülönböztethetetlenné válva a ráktól – csak éppen ő irányítja. Lankester úgy gondolta, hogy az egyre inkább elkényelmesedő emberek hasonló sorsra jutnak majd, mint a fejüket vesztett paraziták.

A város és a csillagok

Huxley, Lem, Philip K. Dick vagy Arthur C. Clarke persze két kézzel kaptak az ötleten: az elmélet egyszerre volt a sötét jövő ígérete, egy jó regénytéma és persze alkalom némi élcelődésre a mai fiatalokon. Clarke A város és a csillagokban (1956) így írta le ezt a múltfelejtést: 

„Az emberek sok mindent elfelejtettek, de anélkül, hogy ezt tudták volna. Tökéletesen alkalmazkodtak környezetükhöz, ahogy az is őhozzájuk – hisz mindkettőt együtt tervezték el. Hogy mi van a város falain kívül, nem tartozott rájuk; ezt kitörölték agyukból. Egyedül Diaspar létezett, másra nem volt szükségük, képzeletük csak ezt tudta átfogni. Egyáltalán nem érdekelte őket, hogy az Ember valaha a csillagok ura volt.”

Clarke regényében az emberek virtuális valóságokba menekültek ez elől a nihil elől – ez pont ugyanaz, amitől Lem is tartott pár évvel később (Dick szintén nagy rajongója volt az alternatív valóságoknak, de Vonnegut, Terry Pratchett vagy akár Douglas Adams is, sőt, Frank Herbert a Dűnében a Fűszerrel egy olyan nélkülözhetetlen információforrást juttatott az Arrakisról táplálkozó navigátoroknak, mint egy kozmikus Google Maps). 

Ez a hedonizmus nem az a hedonizmus 

De tényleg veszélyesek az öröm masinériái? Igen is, meg nem is. Az a hedonizmus, amivel Lem és társai riogatnak, némileg igazságtalan az i. e. 4-3. századi filozófussal,  Epikurosszal, a hedonizmus egyik fő képviselőjével szemben, a valódi görög hedonisták ugyanis nem dőzsöltek, sőt, meglehetősen szerény életet éltek. A jó és élvezetes életre törekedtek, arra, hogy minél több örömben legyen részük, de az epikureusok arra is rájöttek, hogy minél kevesebb élvezetben lelik örömüket, annál könnyebb fenntartani ezt az állapotot, és mivel az öröm visszatekintve is örömet okoz, szerény igényekkel élve nem okoz fájdalmat az, hogy régen minden jobb volt. 

Ez a fajta önmegtartóztatás viszont nem feltétlenül jellemző az emberre, és az is igaz, hogy Epikurosz óta (a filozófus Krisztus előtt 270-ben halt meg Athénban) az emberiség számos új kísértést is kidolgozott magának. Haldane a harmincas években a kísértések mellett arra is felhívta a figyelmet, hogy nem kell feltétlenül evolúciós léptékben gondolnunk erre az összeomlásra: elegendő, ha a civilizáció omlik össze, az esetleges túlélők viszont nem valószínű, hogy ismét képesek lesznek eljutni ugyanarra a fejlettségi szintre, mint az elődjeik.

A végidők jelei

Nick Bostrom, az Oxfordi Egyetem filozófiaprofesszora is egyetért az aggodalmakkal: szerinte semmi sem garantálja, hogy az emberi evolúció valamilyen megfelelő vagy kívánatos irányba halad, a modern világ lehetőségei pedig amellett, hogy jelentősen megkönnyítik az életet, komoly veszélyeket hordoznak magukban. Bostrom szakterülete a mesterséges intelligencia etikája, ami több kutató szerint is egyre hangsúlyosabb kérdés lesz, ahogy az iparág fejlődik, de ebben az esetben nem a gyilkos robotoktól félti az emberiséget, hanem épp ellenkezőleg, a technika nyújtotta lehetőségektől. 

Sir John Glubb brit történész 1976-ban tizenhárom történelmi civilizáció vizsgálata után hat korszakot különített el egymástól egy-egy kultúra történetében. Szerinte egy civilizáció felemelkedése és bukása legtöbbször között mindössze 250 év telik el, a bukás előtti utolsó fázis pedig a dekadencia kora. A professzor így jellemzi a végidőket:

„A lakosságon erőt vesz a frivolság, az esztéticizmus, hedonizmus, cinizmus, pesszimizmus, nárcizmus, konzumerizmus, materializmus, nihilizmus, fatalizmus, fanatizmus és még egy sor negatív attitűd. A politika egyre korruptabbá válik, az életkörülmények pedig egyre igazságtalnabbakká. (…) A polgárok többségének csak az a fontos, hogy legyen kenyér és cirkusz (panem et circuses), istenségek helyett pedig celebekben hisznek”. 

Glubb azt is hozzáteszi, hogy a hanyatló társadalomban a kiválasztott kevesek birtokolják a legtöbbet, a nép pedig megszabadul a gátlásaitól. 

Nem csoda, ha ez ismerősnek hangzik, igaz, aligha lehetett olyan kor, amikor a többség nem vallotta volna azt teljes meggyőződéssel, hogy régen minden jobb volt (ezek a mai fiatalok is milyenek már).

A satnya sapiens

Az ember visszafejlődésével párhuzamosan sokan attól tartanak, hogy a mesterséges intelligencia és a robotok kiszorítják az egyre satnyuló Homo sapienst a bolygóról, de erre egyelőre viszonylag kicsi az esély (néhányan nem állnak meg a Föld határainál, és azt vizionálják, hogy a szuperintelligencia a világűr felett is átveszi a hatalmat, de ez már enyhe túlzásnak tűnik). Thomas Moynihan történész és Anders Sandberg futurológus-programozó úgy gondolják, hogy sok minden a jutalmazáson, a hedonizmus korlátain és persze magán az emberen múlik. Az emberiség történetét végső soron végigkövették a különböző addiktív szerek, mégsem dőlt össze a civilizáció, igaz, az is intő jel lehet, ami az észak-amerikai indiánokkal történt, amikor megjelent közöttük a korábban ismeretlen bódító anyag, az alkohol. Marc-Antoine Crocq pszichiáter szerint ennek egyebek mellett az is lehetett az oka, hogy a fogyasztásának nem voltak meg a hagyományai.

Ez a veszély persze egy minden eddiginél csodálatosabb drog vagy virtuális gyönyör esetében is fennállhat: egy 1953-as harvardi kísérletben patkányok agyát drótozták be, majd ha az állatok meghúztak egy kart, elektromos impulzussal stimulálták őket. A kutatók azt feltételezték, hogy ez élvezetet okoz az állatoknak, amelyeknek annyira tetszett a gombnyomásra érkező öröm, hogy minden másról megfeledkeztek és elpusztultak. Bár a kísérlet eredményeit később többen kétségbe vonták, a „wirehead-probléma” megmaradt: mi történik, ha egy minden eddiginél nagyobb örömöt okozó drogot vagy programot hoznak létre? (Wirehead-nek hívják azokat a patkányokat, amelyek részt vettek a kísérletben, illetve azokat a feltételezett embereket, akik beleragadnak a mesterséges öröm világába).

Wirehead

Egy 2008-as mesterséges intelligenciáról szóló konferencián érdekes válasz született a problémára: az ember épp azért van nagyobb veszélynek kitéve egy ilyen helyzetben, mert csúnyán szólva inkább patkány, mint gép. Miközben sokan azon aggódnak, hogy milyen galibát tudna okozni egy olyan mesterséges intelligencia, amelyik rászokik önmaga jutalmazására, mások úgy vélik, hogy ilyenünk már van, csak épp nem mesterséges, hanem természetes: az ember. A mesterséges intelligenciát feltehetően valamilyen célból fejlesztik, ha pedig ez a cél a létezésének értelme, valószínűtlen, hogy elhanyagolná az önjutalmazás kedvéért (hacsak nem önjutalmazásra programozták, de valószínűtlen, hogy az emberiség létrehozna egy szuperintelligenciát csak azért, hogy jó legyen neki, bár kedves gondolatnak hangzik). Az ember viszont meglepően bonyolult: elmúlt már néhány ezer év azzal, hogy megpróbálták megfejteni, hogy mégis mire van kitalálva, és a legközelebbi megfejtés még mindig az, hogy 42. 

Ez a fókuszhiány viszont inkább erősség, mint gyengeség. Ha Epikurosznak igaza lett volna, és valóban garantálható lenne egy olyan „idilli” állapot, mint a Mátrixban a szárazelem-lét, Morpheus lenne a bűnös, amiért felébreszti az alvót, hiszen a számára kívánatos gyönyörtől fosztja meg – és csak fájdalmat kínál cserébe, még ha ez a valóság velejárója is. Mit nyert Neo a menő napszemüvegen, a lobogó szárnyú viharkabáton és a Nokián kívül? Na ugye! (Az nem számít, hogy később kvázi a világ megmentője lett, mert mindenki tudja, hogy a Mátrixnak csak az első része a Mátrix.)

It's the end of the world as we know it 

Az ember szeret nagy ívű narratívákban gondolkodni, de csak az utóbbi időkben lett népszerű az a megdöbbentő elmélet, hogy a világ elvan ember nélkül is. Mint oly sok minden mást, ezt is Mary Shelleynek és az ipari forradalomnak köszönhetjük: az emberiség olyannyira szerette magát középpontba helyezni, hogy még a kora újkor tudományos felfedezései után is azt firtatta, hogy miként lehet ezt az ember és a világ fejlesztésére fordítani. A húszas-harmincas évek futurológusai is elsősorban optimisták voltak, és bár látták a technológia veszélyeit, inkább az előnyeire koncentráltak. Moynihan szerint csak szűk kétszáz éve gondolkozik aktívan az emberiség azon, hogy lehet, hogy nem ő a világ közepe – viszont az elmúlt években a mesterséges intelligenciát kiáltották ki a legnagyobb veszélynek. Shelley-nek megintcsak igaza volt: Frankenstein doktor megteremtette a maga szörnyét, és a technika minden vívmányát felhasználva akár magára is haragíthatja.

Egy algoritmus viszont nem érdemel sok részvétet, csinálja, amit csinálnia kell, ha pedig magától fejlődik, hát azon a vonalon fejlődik, amit megszabtak neki. Ha nem hiszünk a determinizmusban, ez különbözteti meg a programot az embertől, aki lehet hülye, zseniális, ostoba vagy fanatikus, csak egy valami nem lesz soha: egyszerű. És amíg sokféleképpen vagyunk hülyék, mindig lesz egy Alvin, mint Arthur C. Clarke regényében, akinek nem elég a szerepjáték vagy az illúzió, hanem meg akarja nézni, milyen a világ. Akkor is, ha az történetesen szar.

Kapcsolódó cikkek a Qubiten: