Különvélemény: A burjánzó erőszaknak ma már csak a mesterséges intelligencia vethet véget

A Qubit a szabad és tájékozott magyar nyilvánosságért dolgozik. Segítsd a munkánkat!

Rejtő Jenő halhatatlan hőse, Fülig Jimmy mondta, miután feltörölte a padlót egy maláj erőművésszel, aki arra panaszkodott, hogy bal oldalról várta az ütést, de jobbról kapta, hogy „nem lehet minden pofon mellé egy forgalmi rendőrt állítani”. Rejtő regényeivel szemben a május 14-én, a New York állambeli Buffalóban történt, 10 ember halálával végződő lövöldözés vagy a tíz nappal későbbi, egy texasi iskolában 21 halálos áldozatot követelő vérengzés korántsem vicc témája, mégis joggal vetődhet fel bárkiben, hogy ha más megoldás nincs, állítsunk mindenki mellé egy védelmező „őrangyalt”.

Az Egyesült Államokban csak ebben az évben már több mint 250 tömeges lövöldözés történt, melyek összesen 300-nál is több halálesettel és több mint 1100 sérüléssel jártak. Mintha a régebben ritka kivételnek számító erőszak az új normalitás részévé válna.

Az erőszak és a büntetés alkonya

Azt, hogy az ember nem nélkülözheti a szabályok betartására kényszerítő büntető intézményeket, tudományos kísérletek és antropológiai vizsgálatok is bizonyítják. A történelem során fokozatosan formálódtak ki azok eszközök, amelyekkel a közösségek fegyelmezetlen tagjait rávették a szabályok követésére. Ahogyan az emberi csoportok növekedtek és sokrétűbbé váltak, újabb és újabb büntetési rezsimek jöttek létre. Az emberré válás idején őseink életközössége a család volt, amelyben az egymáshoz hangolódást az evolúció által kiformált ösztönök alapozták meg. Ezek vezérelték a csapatba való beilleszkedést a csapatba, a segítség viszonzását, és még a méltánytalanság megtorlását is. A fejlődés következő szakaszán, a törzsekben már a kultúra alapozta meg az összetartást. A törzs elvárta minden tagjától az ősök által továbbörökített viselkedési normák betartását. Ám nemcsak azt követelték meg, hogy maga tartsa be azokat, hanem azt is, hogy másokkal is tartassa be. Aki normaszegéssel találkozott, annak – vállalva a vesződséget – büntetnie kellett a vétkest, még ha nem is őt érte kár. Ennek a mindenki által gyakorolt (ezért angolul peer punishment néven illetett) büntetési módszer lehetővé tette a közösségek növekedését. 

Ám a nagyobb közösségekben szükségszerűen gyakrabban botlunk bele idegenekbe. Emiatt nem várt módon megjelentek az úgynevezett „másodrendű potyautasok”, akik betartják az előírt szabályokat, de nem vállalják a büntetés terheit, ha idegen csap be idegent. Ahogy egyre többen követték ezt a viselkedést, a szabályszegések elterjedtek, és a közösségek szétestek. A növekvő közösség előnyeinek megtapasztalásával világossá vált, hogy meg kell akadályozni a szabályszegést. Az ember, ha rákényszerül, találékony: kigondolta a moralizáló és büntető isteneket abban a reményben, hogy ez majd észre téríti a potyautasokat. A közösségek azt tanították, hogy a szabályszegőket még életükben, de a túlvilágon egészen biztosan eléri az istenek büntetése. Az emberek fokozatosan megszokták a viselkedésüket felügyelő istenek állandó jelenlétét, és lám, a közösségek – mindenki örömére - tovább növekedhettek. Ám újra előállt a korábbi probléma: a nagyobb közösségben szükségszerűen több idegenbe botlott bele az ember, az isteni büntetések visszatartó ereje pedig lecsökkent. A potyautasok terjedése miatt a nagyobb közösségek kezdtek ismét szétesni.   

Miután látták, hogy a szabályszegőket már kevésbé riasztja vissza az istenek büntetése, a társadalom tagjai nem láttak más megoldást, mint hogy beletörődjenek abba, hogy a hatalmi pozíciók birtoklói gyakorolják az erőszakot. Először csak kiszervezték a büntetést: embereket bíztak meg és fizettek azért, hogy kapják el a szabályszegőket. Ám, amint egyre több területen vált szükségessé a megfigyelés, az ítélkezés és a büntetés, az egészet egybefüggő rendszerré szervezték: megalkották az államot, mint az intézményes erőszak legitim eszközét, amit aztán a közösség tagjainak adójából tartották fenn. Mint kiderült, a polgárokat végső soron csak két dolog érdekli: hogy hatékonyan biztosítják-e a nyugalmukat, és hogy ez nekik mennyibe kerül. 

A kísérletek egyértelműen kimutatták, hogy a büntetési rezsimek közötti átmeneteket mindig a költséghatékonyság vezérli. Amikor a meglévő intézmények hatékonysága leromlik vagy a költségei ugrásszerűen megnőnek, újra kezdődik az intézménybarkácsolás. A valóságban a büntetési rezsimek változásait mindig értetlenség, ellenérzés, és ezekből fakadóan erőszak kísérte. A megszokott intézmények szemszögéből az új maga az őrültség, az új szemszögéből viszont a régi tűnik barbárnak, amit – mint például az önbíráskodást – tiltanak. Mivel azonban az új büntető rezsimeket alapvetően a gazdagok és hatalmasok kezdik működtetni, a kényszerek és az erőszak döntően a szegényeket sújtja. Azt, hogy az állam részrehajló a gazdagok javára, nemcsak a forradalmárok vették észre, de a filozófusok, a tudósok és a művészek is szóvá tették. 

A globalizált világban a „mi” szempontjai helyett az „én” érdekei kerültek előtérbe

A demokrácia fejlődésével egyre több polgár szólhatott bele a szabályok kialakításába, és az állam működése fokozatosan mind átláthatóbbá, hatékonyabbá és humánusabbá vált. A 20. század második felében a büntető intézmények demokratikus ellenőrzésének hatására a társadalmi együttélés zavarai látványosan visszaszorultak. Míg a történelem kezdetén az életet állandó erőszak és életveszély jellemezte, egy középkori város már biztonságosnak és nyugodtnak volt tekinthető. Ám a „konszolidált” középkori állapotok még fényes nappal is jóval erőszakosabbak voltak, mint ma a chicagói alvilág által uralt negyedek éjszakái. A 20. század utolsó harmadában az állam alapvetően kiszámítható és biztonságos körülményeket teremtett a polgárainak, a 21. századba átlépve azonban a világ alapvetően felbolydult. 

A kölcsönös függés az emberiséget elválaszthatatlanul egybekapcsolta, a globalizáció egymásba ékelte a társadalmakat, a migráció pedig összekeverte a korábban viszonylag homogén közösségeket. A hatások megállíthatatlanul terjednek a világban, és egyre gyakrabban idéznek elő válságokat. Az egykor világos eligazítást kínáló társadalmi identitás megrendült, a közösségek közötti ellentétek fokozódtak. A társadalmakon belül szélesedett a generációk közötti kulturális szakadék, a fiatalabbak a korábbiaknál nárcisztikusabbak és individualistábbak lettek. Az egyén hajlamos lett a „mi” szempontjai helyet kizárólag az „én” érdekét követni. A közmegegyezés által jóváhagyott és mindenkitől elvárt viselkedési szabályokat egyre többen és gyakrabban rúgják fel, az együttélés zavarai felerősödtek. Az internet terjedésével hiába nőtt az emberek kapcsolati hálója, egyre magányosabbak lettek, és emiatt könnyen válnak áldozatává az ezt kihasználó, erőszakos csoportok manipulációinak. A társadalmak növekvő mértékben polarizálódnak és a „kollektív depresszió” különös jeleit mutatják, miközben a perifériára szorult csoportokon úrrá lett a „kollektív őrület”.

A felbomlás és a polarizáció leglátványosabb példáit az USA mutatja, de az erőszak és a viselkedési zavarok terjedése a legtöbb fejlett társadalomban megtapasztalható. A korábban civilizáltan és toleránsan viselkedő polgárok növekvő csoportjai válnak a körülmények hatására erőszakos zavarkeltőkké, sőt sodródnak a bűnözői életforma felé. Tagadhatatlan, hogy a meglévő büntetési intézményrendszerek hatékonysága lecsökkent, miközben azok költségei az egekbe szöktek. Ez egyértelműen arra utal, hogy a büntető rezsimek evolúciója újabb történelmi fordulóponthoz érkezett. Amikor a jövő letér a múlt nyomvonaláról, az intézményi evolúciót alapvetően a költséghatékonyság kényszere formálja. Bár a nemzetállami szinten működtetett intézmények továbbra is nélkülözhetetlenek, belőlük mégsem építhetők ki a 21. század globális viselkedésszabályozó rendszerei.

Mivel nem állíthatunk a Föld minden polgára mellé egy „viselkedési forgalmi” rendőrt, úgy tűnik, csak egy lehetőség maradt: a szabályszegő viselkedését még azelőtt felismerni, mielőtt ténylegesen bekövetkezne valami őrültség.

Tom Cruise a Különvélemény című 2002-es filmbenForrás: Intercom

Ezt az ötlet nem légből kapott, hanem a jövő veszélyeivel gyakran szembesítő sci-fi író, Philip K. Dick gondolata. Az 1956-ban megjelent novellája, a Különvélemény éppen azzal az ötlettel játszott el, hogy 2054-ben a rendőrség rendelkezik egy olyan részleggel (PreCrime egység) amelynek munkája révén a bűnözők még azelőtt megállíthatók, hogy a gyilkosságot ténylegesen elkövették volna. A novellát – és az annak alapján készült, azonos című filmet – sok meglepő csavar, hihetetlen fordulat tette izgalmassá, de az eseményszálakat alapvetően egy gondolat mozgatta: milyen következményei lehetnek, ha azonosíthatnánk, amikor valaki a szabályszegés, bűnelkövetés felé sodródik. 

A mesterséges intelligencia megoldást jelenthet, de a vesztünket is okozhatja

Ma a szemünk előtt formálódik ki egy olyan, internetalapú, egyszerre globális és lokális rendszer, amely képes adatot gyűjteni bárkiről és bármiről, majd azok rögzítésével, archiválásával és elemzésével személyiségi profilokat tud alkotni. A rendszer képes szinte minden információt ellenőrizni, egy ember múltjának minden mozzanatát (társadalmi kapcsolatait, ígéreteit, botlásait és vétségeit) feltárni. Ennek alapján már ma is, de a jövőben, a mesterséges intelligenciára alapozva még inkább előre jelezhetővé teszi az emberek viselkedését. Abból, hogy valaki mire keres rá az interneten, mit vásárol, mit olvas, kikkel lép kapcsolatba, mit kommentál, következtetni lehet arra, hogy vajon éppen a nyaralását szervezi, a lakását rendezi be, szülésre készül, esetlen éppen terrorakciót tervez. Mindezt valós időben, könnyen hozzáférhetően és lényegében ingyen meg tudja tenni. 

Ha ehhez a globális megfigyelési rendszerhez hozzákapcsolunk egy, a token economy elvét alkalmazó (a szabálykövetés magas vagy alacsony pontjaihoz növekvő vagy csökkenő életlehetőségeket kapcsoló) rendszert, hatékony viselkedés-befolyásolási intézményt kapunk. A rendszernek sok elemét régóta használják a bankok a hitel elbírálásánál (FICO rendszer), a vállalatok beszállítóik tesztelésénél vagy éppen munkatársak kiválasztásánál, és persze a kínai Social Credit System működtetésénél. Valamennyi a régi korok kis közösségeinek, az úgynevezett image scoring módszerét alkalmazó reputációmérést működteti. Ám mostantól a „falu rosszát” már a teljes globális világ kutyái megugatják. Megvan tehát a megoldás, de ne örüljünk túl korán. Megtanulhattuk: az életet segítő zseniális ötletek többnyire az ember érdekeivel ellentétesen is felhasználhatók. Azoknak az állampolgároknak, akik a 20. század végére a rendszabályozó állam tulajdonosainak érezhették magukat, a szemünk előtt kiformálódó új, virtuális büntetési rendszer komoly veszélyeket is rejt.  

Az egyik probléma a tőke és a politika összefonódó és kevéssé átlátható hatalmából fakad. Erre utalnak az elmúlt időszak súlyos krízisei: a fegyverlobbi hatására könnyebben kivitelezhető lövöldözések, a fájdalomcsillapító-gyártók generálta opioidválság, vagy épp a gyógyulást akadályozó gyógyszerszabadalmi szabályozás egyaránt a monopóliumok hatalmát mutatja. De ugyanez mutatkozik meg abban, ahogyan a közösségimédia-vállalatok – politikai kapcsolataikat is kihasználva – a rendelkezésükre álló adatokat a polgárok megfigyelésére és manipulációjára használják fel. Még ennél is nagyobb veszélyt jelent, hogy a diktatórikus politikai rendszerek a polgárok ellenőrzésének kijátszásával és megakadályozásával kiépítik a megfigyelés és a befolyásolás totális rendszereit. Kína ma már egy ilyen, szinte ellenállhatatlan befolyású rendszert működtet. Ennek ellenőrzése, úgy tűnik, csak a mesterséges intelligencia alkalmazásával lehetséges.  

Ugyanakkor a mesterséges intelligencia szisztematikus beépülése a társadalmi rendszerek kormányzásába felvet egy további, talán még riasztóbb és még nehezebben átlátható veszélyt: könnyedén kicsúszhat a döntéshozatal és az irányítás az ember kezéből. Miközben tehát a megfigyelési rendszerek alkalmazása elkerülhetetlennek tűnik, az intelligens gépek hatalmának kiterjedése aggasztó. Nem is a szakértők tudásának korlátozottságától kell tartani, hiszen ők többnyire tisztában vannak korlátjaikkal – az igazi veszélyt a rendszert működtető politikusok és az őket saját céljaikra felhasználó üzleti hatalmak viselkedése jelenti szélsőségesen polarizált világunkban.

A szerző okleveles fizikus, a filozófiai tudományok kandidátusa, a Budapesti Gazdasági Egyetem tanára. További írásai a Qubiten itt olvashatók.

A Qubit szerkesztősége azért dolgozik, hogy a magyar nyilvánosság hiteles, alapos és közérthető tudományos ismeretekhez jusson. Tesszük ezt politikamentesen, közszolgálati hevülettel, száznál több kutató és tudós bevonásával. Égető kérdések, dermesztő válságok és zavaros álhírek sűrűjében igyekszünk tartani a fáklyát immár havi bő hétszázezer olvasónknak. Cikkeink ingyen olvashatók, de nem ingyen készülnek. Segítsd a munkánkat!

Kapcsolódó cikkek a Qubiten: