Rabszolgaként vagy állampolgárként tekintsünk a robotokra?

„Egyébként ma minden kérdésre az lesz a válasz, hogy nem tudjuk” – hangzott el a Robotok és politika a science fiction tükrében című hétfői előadás első perceiben, ami klasszikus dupla csavar: poén, mert hát akkor minek foglalkozunk ilyen képzelődésekkel, de közben igaz, hiszen legalább Galántai professzor óta tudjuk, hogy a jövőkutatás egy nagyon izgalmas tudományág, de nem azért van, hogy megmondja a jövőt.

Miért népszerű téma mégis a robotok és az emberek közös jövője? Ezt az előadást tartó Tóth Csaba, az ELTE Politikatudományi Intézetének oktatója, A sci-fi politológiája című könyv szerzője két részre bontotta: egyrészt alapvetően foglalkoztatja az embereket, hogy meg fognak-e ölni minket az egyre rémisztőbben életszerű alkotásaink (rád nézek, Boston Dynamics), másrészt, valamivel gyakorlatiasabb vonalon pedig az is mindenkit érdekel, hogy mikor és milyen mértékben veszik el a robotok az emberek munkáját.

Azt a történelem már sokszor bizonyította, hogy nagyon nehéz előrelátni, milyen hatása lesz egy-egy technológiai változásnak: meg lehet erről kérdezni az atombomba feltalálóit vagy azokat, akik a kezdetekben úgy gondolták, az internet lesz a globális demokrácia megteremtője. A technikai szakemberek, mérnökök, programozók innovációja hatalmas érték, de a mesterséges intelligencia korában minden eddiginél jobban fel kell mérni az újítások társadalmi következményeit.

Ennek egy jó eszköze a sci-fi, mivel az irodalom- és filmtörténet során rengeteg szerző (gyakran tudományos pályáról érkezve) hivatásszerűen foglalkozott azzal, hogy olyan világokat képzeljen el, ahol a robotok a mindennapok részei, és megpróbálja végiggondolni ennek következményeit. Ráadásul az is legitimmé teszi a fiktív történetek vizsgálatát, hogy a sci-fi sokszor ténylegesen visszahat a tényleges technológiai fejlődésekre: akár úgy, hogy valaki azért kezd el robotikát tanulni, mert sokat olvasott Asimovot, akár úgy, hogy a tudósok próbálnak lemodellezni egy-egy filmben látott új technikát.

Elveszik a munkánkat?

A digitalizációt jelentő negyedik ipari forradalomban járunk, mondta az előadáson Tóth, aki szerint az előző ipari forradalmaknál mindig ugyanaz történt: volt egy nagy fejlesztés, ami valaki munkáját elvette: a gőzgép a fogathajtókét, a telefon a távírókét, az önvezető autók pedig majd a kamionsofőrökét. De minden korábbi alkalommal az történt, hogy tévedtek a pesszimisták, mert a gazdaság mindig létrehozott új típusú munkahelyeket.

Van olyan álláspont is, amely szerint ma már nincs olyan munka, amit ne lehetne automatizálni. Már az ellenpéldaként leggyakrabban emlegetett kreatív munkákon is dolgoznak, és sorra jelennek meg a festő, szépíró, zenét író mesterséges intelligenciára tett kísérletek. Tóth szerint a politikusok is kivételt képeznek, hiszen nekik az lenne a feladatuk, hogy olyan alternatívák között döntsenek, amelyek között nem feltétlenül lehet objektív, racionális alapon dönteni. A programozható szakértelem mellett itt jönnének be az értékeken és preferenciákon alapuló politikai döntések.

A robotokat övező etikai kérdéseket talán a „trolley problem” nevű gondolatkísérlet érzékelteti legjobban, amivel az önvezető autókkal kapcsolatban is lehet mostanában találkozni. Ez egy olyan esetet ír le, ahol egy elszabadult egy villamos, amely saját pályáján haladva elütne öt, a sínekhez kötözött embert, ha viszont meghúzunk egy kart (merthogy épp mellette állunk), akkor pályát vált, és csak egy odakötözött embert üt el. Melyiket választjuk?

Forrás: Wikimedia Commons

Empirikus kutatások azt mutatják, hogy az emberek nem félnek közbelépni, és utilitarista módon inkább egy ember halálát okozzák aktívan, mint öt emberét passzívan. Egy michigani virtuálisvalóság-kísérlet során a résztvevők 90 százaléka húzta meg a kart, de egy 2013-as tanulmány szerint a több mint 3000 megkérdezett filozófus közül is 68 százalékban szavaztak az aktív közbeavatkozásra. Viszont úgy tűnik, a többség nem venne olyan autót, amely az ilyen helyzetekben dönt helyette, vagyis képes emberi életek fölött rendelkezni. Tóth szerint ebből simán levezethető egy olyan jövőkép, ahol „85 százalékkal csökkentik az önvezető autók a közlekedési balesetek számát, de lesz egy eset, amikor egy rossz algoritmus valaki halálához vezet, és akkor az emberek a racionalitást félretéve elfordulnak a technológiától”.

Rabszolgaság vagy személyi jogok?

Isaac Asimov az elsők között kezdett el arról gondolkodni, hogyan fog együtt élni az emberiség a robotokkal és milyen problémák vetődhetnek fel egy ilyen jövőben. Szerinte egy feladata van az embereknek: gondoskodni arról, hogy a robotok az emberek szolgái maradjanak.

Ő írta meg a robotika három törvényét is, amelyek híresen végigkísérik a műveit:

1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

Alapvető kérdés a szolgalelkű robotokkal foglalkozó sci-fikben, hogy mi ösztönzi arra őket, hogy kiszolgálják az embereket? Ian Tregillis The Mechanical című könyvében például a 17. század egyik frissen iparosodó országa, Hollandia olyan mesterséges gépeket kezd létrehozni, amelyek fájdalmat éreznek, amikor nem engedelmeskednek a parancsnak.

A robotrabszolgaság kérdését már a Star Trek is feszegette: az új nemzedék című széria Data parancsnokhelyettese egy olyan android, amely emberré szeretne válni, de jogilag tulajdonként kezelik. Az egyik leghíresebb epizód (The Measure of a Man) nemcsak az érző lény (sentient being) kritériumait fogalmazza meg (intelligencia, öntudat, tudatosság), hanem azt is kimondja, hogy Asimov három törvénye valójában egy rabszolgafajt hozna létre.

A robotok jogairól szóló vita már most is napirenden van, elég csak a nemrég Szaúd-Arábiában állampolgárságot kapott mesterséges intelligenciára, Sophiára gondolni, vagy arra, hogy az Európai Parlament már a robotok személyi jogainak kialakítását sürgeti.

Nem szabad elrontani az első robotokat

Alastair Reynolds, a Jelenések tere szerzője úgy képzeli, hogy a robotok sajátos logikával gondolkodnak majd, amit emberként nem tudunk megérteni. Vagyis ha úgy programozzuk őket, hogy tudják, az élet védelménél nincs fontosabb, akkor ezt ők úgy is értelmezhetik, hogy mivel az emberiség az élet legnagyobb pusztítója, racionális döntés kiirtani most hétmilliárd embert, mert néhány millió év alatt úgyis végbemegy egy újabb evolúció, az új lényeket pedig már lehet úgy manipulálni, hogy ne pusztítsák egymást.

De nem minden példa épül arra, hogy a robotok csak egyfélék lehetnek. Ha az emberi tudat biokémiai folyamatok eredménye, tehát reprodukálható, akkor ezek a folyamatok nem determinálják azt, hogy milyen tulajdonságai lesznek egy embernek – és ha a robotoknál is így jön létre a tudat, akkor ők is sokfélék lesznek.

Mivel az emberiség hajlamos túlélni mindenféle válságot, és eddig az összes technológiai újításból jól jött ki, sokan azt a következtetést vonják le, hogy ez mindig így lesz. Ha viszont tényleg az a cél, hogy önmagukat is fejleszteni, tanulni képes, öntudatos gépeket alkosson az ember, azt elsőre nem szabad elrontani – mondta Tóth, hangsúlyozva, hogy talán sosem volt még ilyen fontos, hogy valamin együtt dolgozzanak a természet- és társadalomtudósok.

Az előadást a Be Smart Klub szervezte.