Ember és gép: szimbiózis vagy háború?

Felettébb trendi manapság különböző negatív jövőképekkel borzolni a kedélyeket. Szakértők és kuruzslók ontják magukból az igét: „a számítógépek elveszik a munkánkat, és feleslegessé tesznek minket”;  „a mesterséges intelligencia rabszolgaságba hajtja, sőt, el is pusztítja majd az emberiséget”. De miért lenne így? Habár kétségkívül szórakoztató és sokszor tanulságos a fentiekhez hasonló fikciókat felvázolni (és ennek számtalan disztópikus bestseller és blockbuster is a bizonyítéka), mindennek a valósághoz nem sok köze van. Az ilyen gondolkodás ugyanis nemcsak teljesen figyelmen kívül hagyja a technológiai fejlődés valódi irányát, de alul is értékeli az emberi kapacitást, és túlértékeli a gépekét. Nem lehet, hogy ehelyett egy fényesebb, az embert és számítógépeket ötvöző jövő vár ránk?

Amikor a gép legyőzte a sakkbajnokot

1997-ben Garri Kaszparov sakkvilágbajnok kikapott a Deep Blue nevű sakkprogramtól – ez volt az emberiség történetében az első alkalom, hogy egy számítógép megvert egy embert sakkban. A sakk ugyanakkor továbbra is él és virul – a gépek egyáltalán nem vették el az ember sakkozási lehetőségét és abban lelt örömét, ehelyett a humán játékosok továbbra is keresik a kihívást, és élvezik a játékot.

Kaszparov és az IBM számítógépe, a Deep Blue mérkőzése 1997-ben. Győzött a gép.Fotó: STAN HONDA/AFP

Kaszparov azonban egy újfajta játékot is meghirdetett: az úgynevezett szabadfogású sakkversenyt (angolul: freestyle chess). Ebben a formátumban emberekből és számítógépekből alkotott csapatok szinte teljesen megkötések nélkül állhatnak össze, így nevezhetnek nagymesterekből álló koalíciók, profi sakkprogramok, szuperszámítógépek, de egészen vegyes csapatok is. Többek között 2005-ben is rendeztek egy ilyen sakkversenyt.

Vajon milyen összeállítású csapat nyerte meg?

  1. Egy sakknagymesterekből álló csapat számítógépes támogatással

  2. Egy szuperszámítógéppel és profi sakkprogrammal működő csapat

Illusztráció: Danka Miklós András

A válasz: egyik sem. A győztesek Zackary Stephen és Steven Cramton lettek, két relatíve átlagos sakkozó (Stephen adatbázis-adminisztrátor, Cramton pedig futballedző és snowboardoktató), akik elég gyenge kapacitású számítógépekkel rendelkeztek, és négy különböző, de átlagos sakkprogramot futtattak. Akkor mégis hogyan tudtak ilyen erős csapatok fölött győzedelmeskedni?

A titkuk abban rejlett, hogy sikeresen egyesítették a programok erősségeit a sajátjaikkal. Egy számítógép rengeteg lépést képes villámgyorsan elemezni, ráadásul adatbázisaiból olyan mennyiségű korábbi állást és játszmát tud felhasználni a játékához, melyre az emberi agynak esélye sincs. Ezzel szemben a sakkprogramok nem tudnak hosszú távú stratégiákban gondolkodni: hiába tudnak néhány lépésre előre vizsgálódni, a hosszú távú tervezésük limitált. A két játékos ráadásul jól ismerte különböző sakkprogramjai sajátosságait, és ezt is felhasználta, amikor döntéseket hozott. A rendszerük tehát a sakkozók gondolkodását támogatta, kísérletezésre adott lehetőséget, helyzeteket elemzett – a végső döntést, a stratégiai kreativitást azonban a felhasználókra hagyta. (Érdemes elolvasni Stephen és Cramton saját leírását a döntéshozatali mechanizmusukról.)

Illusztráció: Danka Miklós András

Egy jól összerakott ember-gép kombinációban tehát a két oldal erőssége összeszorzódik, és együtt jobb eredményt tudnak elérni, mint a nagymesterek vagy a szuperszámítógépek önmagukban. 

A Paypal és a bűnözők

Ez a kombináció nemcsak sakkversenyeken, hanem a mindennapi életben is működik. Az 1998-ban alapított online fizetési rendszernek, a Paypalnek akkoriban több versenytársa is volt, közülük mégis a Paypal emelkedett ki. Elsőre azt gondolhatnánk, hogy ennek a marketing vagy a technológiai újítások lehettek az okai, azonban ennél sokkal meglepőbb a helyzet. 

Az online pénzügyi tranzakciós cégekre a legnagyobb veszélyt a csalások jelentették, például ha illetéktelenek fértek hozzá és használták a Paypal-fiókhoz tartozó hitelkártyákat – az alacsony tranzakciós díjakból származó bevételt ugyanis akár kevés hamis tranzakció is teljesen felemészthette volna. Akkor mégis hogyan védekezhettek ezek a szervezetek?

Csupán emberi munkaerővel a feladat reménytelen: tranzakciók millióit kellett volna elképesztő gyorsasággal ellenőrizni. Ezért a legtöbb versenytárs techcégekre jellemző módon a feladat teljes automatizálását tűzte ki célul: bízzuk a gépi tanulásra a nem kívánt tranzakciók azonosítását! Ezek az algoritmusok a már ismert bűnözői viselkedés alapján megtanulták felismerni a gyanús mintákat, például ha öt egymást követő napon öt különböző országból léptek be egy fiókba.

Ezzel a módszerrel csak egy baj volt: a bűnözők sokszor intelligensek, és a detektálás után azonnal módszert tudtak váltani. A merev gépi algoritmusok miatt ez roppant egyszerű: a fenti példában elég már az is, ha a támadók négy országra korlátozzák a belépéseket, és máris túljártak a gép eszén. Az algoritmus persze mindig megtanulhat új mintákat, azonban addigra már megesett a kár, a bűnözők pedig újra alkalmazkodhatnak az új módszerekhez.

Ez a probléma sok tekintetben hasonlít a sakkos példához, hiszen ötvözi az emberi ellenfél (a bűnöző) és a hatalmas adatmennyiség által támasztott kihívásokat. Egyrészt az elemzők az emberi intuíciójukat felhasználva, a bűnözők gondolkodásmódját ismerve nyomoznak, tekintettel a tipikus viselkedési mintákra és emberi motivációkra – képességeik azonban limitáltak, hiszen nem képesek hatékonyan átlátni több tízmilliós adathalmazokat és hatalmas hálózatokat. Másrészt csupán számítógépes módszerekkel nem deríthető fel egy-egy eset: habár korábbi minták és előre betáplált szabályok léteznek, egy program nem tudja figyelembe venni az esetek egyediségét és az emberi motivációt. Ráadásul ha egy algoritmikus szabály működik is, a bűnözők gyakran alkalmazkodnak hozzá.

A Paypal példája azt mutatja, hogy a sakkhoz hasonlóan itt is sikeresebb lehet egy embert és számítógépet hatékonyan ötvöző módszer. A cég megoldása: kapcsoljuk össze a gép számítási előnyeit az emberi intelligenciával. Legyen a gép feladata a releváns adatok összegyűjtése, a hálózatok és térképek vizualizációja, a gyors keresés és az emberek által betáplált, folyamatosan frissített szabályok alapján a gyanús tranzakciók felvetése és priorizálása; de bízzuk az emberi intuícióra a hálózatok feltérképezését, a kísérletezést és a végső döntést.

Ez a hozzáállás elegendő volt ahhoz, hogy keresztbe tegyen a csalóknak, hiszen most már nem lehetett olcsó trükkökkel túljárni a cég eszén: az emberi intelligenciára emberi intelligencia volt a válasz. Ahogyan a sakkversenyen, úgy itt is ez a módszer győzedelmeskedett, és a Paypalből is nyereséges üzlet lett.

Úgy tűnik, hogy ha tiszteletben tartjuk a számítógépek és az emberek erősségeit ahelyett, hogy mindenáron automatizálni próbálnánk az emberi képességeket, kiemelkedő eredményeket érhetünk el. Hol lehet ennek a határa?

A vak, aki a nyelvével lát

Teljesen más szintre helyezi az ember-gép szimbiózist a Brainport, amely vakoknak adja meg a látás élményét a nyelvükön keresztül. A Brainport nevű eszköz elektródákon keresztül közvetíti egy fekete-fehér kamera pixeleit egy lapocskára, amelyet a felhasználók a nyelvükre helyeznek. A hihetetlen jelenség csak ezután következik: a felhasználó agya kb. 15 perc után felismeri, hogy vizuális jelekről van szó, és az illető újra képes lesz látni.

Ebben a példában az eszköz egy konkrét, létező mechanizmust helyettesített, egy másik kísérletben azonban teljesen új képességet adtak a felhasználónak. A kísérleti alany hosszú időn át egy olyan övet viselt, amelynek az észak felé eső része szüntelenül rezgett. Egy idő után az öv viselője érezte és tudta, hogy merre van észak – mintha csak egy újabb érzékszervre tett volna szert.

Habár teljesen más módon, mint a korábbi példákban, itt is arról van szó, hogy az emberi agy a megfelelően prezentált információt képes beépíteni működésébe, kiterjesztve az ember képességeit (ennek futurisztikus verzióján dolgozik Elon Musk Neuralink cége).

Ember-gép szimbiózis háború helyett

A fenti három példa csak a jéghegy csúcsa: ugyanezt a jelenséget, a gép és ember közötti együttműködést láthatjuk a proteinalakzatok felderítésében, az AI-asszisztált zeneszerzésben vagy a kommentmoderációban, de akkor is, amikor hatalmas tudáshalmazhoz férünk hozzá egy-egy Google-kereséssel, vagy a környék legjobb éttermét választjuk ki temérdek adat, korábbi tapasztalat és térképes vizualizáció alapján.

Világos tehát, hogy az ember és gép kooperációja elképesztő lehetőségeket rejt magában. Ráadásul ez nem ábránd vagy jóslat, mint a disztópikus jövőkép, hiszen már létezik – sőt maga a gondolat sem új, már 1960-ban megjelent a legendás pszichológus és informatikus, J. C. R. Licklider cikkében. Mégis úgy tűnik, mintha a techvilág főleg az emberek helyettesítésébe ölné energiáit, nem képességeik növelésébe. Ennek feltehetően az az oka, hogy a félelmeket keltő fantáziálás izgalmasabb, mint a jelen alapos megértése; esetleg az, hogy a Szilícium-völgy (nagyjából) csak a számítógépekben hisz, nem képes értékelni az emberek erősségeit, és mindenáron meg akar szabadulni a humán komponenstől – még akkor is, ha ez munkanélküliséghez, elégedetlenséghez vagy szenvedéshez vezet. Bármi is legyen az indok, itt az idő, hogy elfogadjuk, értékeljük és használjuk az ember-gép szimbiózis bizarr erejét. (Érdeklődőknek ajánlom Shyam Sankar TED előadását a témában.)

A szerző a Palantir Technologies munkatársa. Véleménye nem tükrözi a cég álláspontját.