Nem létezik olyan algoritmus, ami hülyébb lehetne, mint maga az ember

Nincsen túlélhető és fenntartható jövőnk tudomány nélkül, ahogy nekünk sincsen nélkületek. Támogasd a Qubit munkáját!

A gépek átveszik az uralmat az emberek felett, leigáznak mindenkit, és empátia nélküli, mesterséges világot teremtenek, ahol csak néhány kiválasztott nyomorultnak van életnek nevezhető élete. Az androidok gyakorlatilag emberré válnak, és az eleve kiüresedett világban megkülönböztethetetlenné válnak a valódi emberektől, az emancipációs törekvéseiket pedig tűzzel-vassal irtják azok, akik egyébként semmivel nem jobbak náluk.

A gépek csodálatos új világot hoznak el az embernek, ahol mesterséges intelligencia vezényli a repülő autókat, irányíthatóvá válik az időjárás, és ingyen van az ásványvíz, mert egészséges. Ezek a narratívák uralják a mesterséges intelligenciáról szóló jövőképeket, arról viszont kevesebb szó esik, hogy mi a helyzet az AI jelenlegi állásával. 

A mesterséges intelligencia már itt van velünk, vagy közöttünk, és önmagától pedig nem is jó vagy rossz – azt viszont nem árt megnézni, hogy mi mindenre alkalmas jelenlegi állapotában, merre fejleszthető, mikor lehet veszélyes, és egyáltalán, mi hozható ki belőle. Erre vállalkozott George Tilesch (vagyis Tilesch György) mesterségesintelligencia-szakértő és Omar Hatamleh, a NASA innovációért felelős volt főnöke angolul nemrégiben megjelent könyvében, a BetweenBrainsben.

Könnyen lehet baj

Ez nem egyszerű feladat: a könyv második részében a szerzők leírják, hogy egy meg nem nevezett techcég igazgatója figyelmeztette őket, hogy rosszul is elsülhet a vállalkozásuk, az pedig, hogy foglalkoznak a technika veszélyeivel is, pláne rossz ötlet, a befektetők ugyanis nem szoktak örülni az ilyesminek. Az AI pedig, ahogy elég sok minden más is, nem fekete vagy fehér, ráadásul itt nem valami istenítéletről van szó: még az autonóm módon tanuló programokat is hús-vér programozók indítják útjukra, ennek minden előnyével és hátrányával. Persze az emberi faktor hibafaktor is: néhány éve a Microsoft chatbotjából faragott a nagyközönség szexmániás nácit, igaz, ez nem a programozók, hanem a felhasználók műve volt. 

BetweenBraInsFotó: RICHARD BARANYAI/RICHARD BARANYAI

A könyv legfontosabb állítása, hogy a mesterséges intelligencia terjedésével nem egyszerűen új technológia jelent meg, hanem maga az emberiség lépett új korszakba, ami triviálisnak tűnhet, ha robotzsaru-szempontból vagy 5G-rettegőként tekintünk a világra, de egyébként nem az. Sokan a robbanómotor megjelenéséhez vagy az ipari forradalomhoz hasonlítják ezt a lépést, de Tilesch és Hatamleh szerint ennél jóval többről van szó: ez az első olyan alkalom a történelemben, amikor egy technikai újítás az élet minden területét átalakítja.

Ennek megfelelően a BetweenBrains nem számítástechnikai könyv – a téma sokrétűsége miatt nem is lehet az. A legfőbb hangsúlyt az etika kapja benne, az a tudomány, amit sokan nem is tekintenek tudománynak, de a változó idők miatt talán most fontosabb, mint valaha. Tilesch egyik fő kutatási iránya is ez, a mesterséges intelligencia szerepének feltérképezése során ugyanakkor jóval közelebb kerülünk a hétköznapi etikai dilemmákhoz, mint a legtöbb gondolatkísérlet esetében, ugyanis ez nem lesz, hanem ez van. Az AI már a hétköznapok része, úgyhogy nem az a kérdés, hogy létrejön-e a szuperintelligencia (a könyv ezzel is foglalkozik, igaz, csak érintőlegesen), hanem az, hogy a meglévővel mit lehet kezdeni.

Nem jó, nem rossz 

A BetweenBrains robotokkal és az emberiség jövőjével foglalkozó első fejezete után a második már egy iparágakon átívelő, irtózatos adatkészlettel dolgozó, sokoldalú mesterséges intelligenciát mutat be, amelyhez elméletileg csaknem minden technikai feltétel adott, és ha megvalósulna, valóban nem kerülnénk messze Fehér Klára 1957-ben megjelent, 2057-et bemutató utópiájától, A földrengések szigetétől, ahol nagyjából minden van, és az a minden szabályozható is. 

A kötet digitális oktatásról szóló alfejezete a koronavírus-járvány miatt aktuálisabbá vált, mint valaha: senki nem hitte volna, de az oktatási intézményeknek az egyik pillanatról a másikra kellett átállniuk arra, hogy a lehető legjobban kihasználják a technikát. Ez az átállás a legtöbb esetben sikeresnek bizonyult, bár a szerzők szerint csak azokat érinti pozitívan, akik eleve rendelkeztek a szükséges eszközökkel, miközben az eleve szerencsétlenebb sorban élőket hátrányosan érinti. A technikában megvan az a lehetőség, hogy mindenkihez eljuttassa a legkiválóbb egyetemeket, akár utazás nélkül is, de az, aki kimarad az általános iskolai anyagból is, mert nincs számítógépe, ebben a szép új világban sem nagyon rúghat labdába. 

A mesterséges intelligenciának az egészségügyben, a művészetben vagy a politikában betöltött szerepének bemutatásából egyértelmű, hogy ez nem valami olyasmi, ami Philip K. Dick valamelyik tripjében került elő, hanem valóban a hétköznapokról van szó – ha nem is épp a jövő keddről, a két év múlva bekövetkező bármelyik keddről. A kötet emellett foglalkozik a jövővel is, de nem ez a legfontosabb dolga: a szerzők vállaltan közérthető, gondolatébresztő könyvet akartak írni valamiről, ami már most a világ része, és ha nem értjük meg, hogy most mire képes a technika, és mire nem, esélyünk sincs felfogni, hogy mit lehet még vele elérni. 

Tilesch és Hatamleh az utolsó fejezetben figyelmeztet: nem árt vigyázni, mert ami elromolhat, az el is romlik, ha pedig emberi érdekekről is szó van, nagy eséllyel nem véletlenül fog elromlani. A könyv végén lefektetett manifesztum árnyalja a képet: a mesterséges intelligencia jelenlegi állapotában és egyébként sem lesz önmagában jó vagy rossz, de ha a mostani forgatókönyveket nézzük, nagyobb rá az esély, hogy a nagyhatalmak rossz célokra fogják használni. 

Nézzük csak az atomenergiát: mihelyst ráleltek a népek, rögtön sikerült bombát fabrikálni belőle, az pedig, hogy ez mekkora baj, csak akkor derül ki, amikor ledobják az első hidrogénbombát. Hasonló felelősség terheli a világ vezető hatalmait a mesterséges intelligenciával is: amíg fennáll annak lehetősége, hogy a technika globális fejlesztése bármilyen üzleti vagy politikai érdek mentén alakul, sok jóra nem számíthatunk.

Emberi, túlságosan is emberi 

Annak ellenére, hogy a könyv kitér a náci szexmániás chatbotra, az orwelli totális megfigyelésre és az összes többi divatos disztópiára, pozitív hangütéssel ér véget: olyan globális együttműködést szorgalmaz, aminek köszönhetően az emberiség inkább az AI pozitív hatásaiból részesedhet, és csökkenhet az egyenlőtlenség és az igazságtalanság a világban. Úgy tűnik, hogy erre némi elvi lehetőség adódik, sőt, paradox módon a gépek és az algoritmusok korszakában talán egy új pálya nyílik a humanizmus előtt: ha meglátjuk, hogy mi az, amit nem lehet kikalkulálni, talán jobban rátalálunk arra is, hogy mi lehet az a speciális emberi érték, amit olyan nehéz megtalálni. A szerzők azt remélik, hogy ezeken az értékeken túlmenően még az is kiderülhet, hogy mi rejtőzik az emberi tudatosságban, és milyen döntések javíthatják az ember életét a hétköznapi világban.

A végső tanulság talán az, hogy nem az embertelen gépektől kell félni, amiért kipusztítják az emberiséget, hanem az embertelen emberektől, akik adatokkal etetik őket, majd az eredményt rossz célra használják: eddig is ők okozták a legtöbb problémát, és nem létezik olyan algoritmus, ami hülyébb lehetne, mint maga az ember. A BetweenBrains rendet tesz egy kicsit a humán agyakban, bemutatja, hogy hol tartunk, mire számíthatunk, és miért alakul úgy a digitális világ, ahogy, de nem ad megbízható receptet arra, hogy elkerülhessük a katasztrófát, ehhez ugyanis nem gépek kellenek, hanem emberek, azok pedig olyanok, amilyenek. A jó hír, hogy ezen még lehet segíteni. 

Ha tetszik, amit csinálunk, ha te is fontosnak tartod, hogy magyar nyelven legyen egy okos és közérthető lap, ami nem a politikai barikádok csatazajáról tudósít, hanem a ránk váró – bátran mondjuk ki, ez az év is megmutatta, mennyire nem túlzás ez – civilizációs kihívásokkal foglalkozik, ami fel meri tenni a jövőnkkel kapcsolatos igazi kérdéseket, és meg is mutatja a modern tudomány válaszait mindezekre, nos ha ez szerinted is olyan égetően fontos, ahogy mi gondoljuk: heroikus munkát végző öt újságíróval, sok tucatnyi kutatóval és csak egy egészen kicsi kiadóval a hátunk mögött, akkor támogasd a munkánkat rendszeresen – számít a segítséged!

(George Tilesch, Omar Hatamleh: Between Brains. PublishDrive, Egyesült Államok, 2020.)

Kapcsolódó cikkek a Qubiten: