Miért az ártatlanok fizessenek az önvezető autók baleseteiért?

A közlekedésben már részt vevő önvezető autóknál még szükség van arra, hogy a sofőr mindvégig kézben tartsa az irányítást, és ellenőrizze az autó tevékenységét. De a gyártók célja, hogy mihamarabb piacra dobják azokat a típusokat, amelyek képesek arra, hogy eljuttassák utasaikat a kiindulási ponttól a célállomásig emberi beavatkozás és folyamatos ellenőrzés nélkül. Ám bármilyen kifinomultak is legyenek ezek a jövőbeli autonóm járművek, biztosak lehetünk benne, hogy az őket irányító szoftverek olykor hibás döntéseket fognak hozni és baleseteket fognak előidézni. 

De kit kell ilyenkor hibáztatni? És ki feleljen az okozott károkért?  Jóllehet a két kérdés hasonló, és össze is függ egymással, az előbbi a morális, az utóbbi pedig a jogi felelősségre kérdez rá. Hogy a legjobb választ tudjuk adni mindkét kérdésre, érdemes őket külön-külön fontolóra venni.

Miért értelmetlen morális felelősséget tulajdonítani az önvezető autóknak?

Valójában nem annyira komplikált kérdés, hogy ki visel morális felelősséget a valódi önvezető autók által okozott balesetekért. Hogy ez a szakirodalmat tekintve nem tűnik annyira nyilvánvalónak, ez részben annak köszönhető, hogy az autonóm gépekről szóló szakirodalom tanulmányról tanulmányra nagyon különböző értelemben használja a kifejezést; sőt sok szerző homályban hagyja, mit is ért pontosan morális felelősségen. 

Mivel a szerzők eltérően használják a morális felelősség fogalmát, nem csoda, ha úgy tűnik, abban is késhegyre menő viták vannak a résztvevők között, hogy az önvezető autók vagy más már létező autonóm rendszerek rendelkeznek-e morális felelősséggel, vagy sem. E különböző felelősségfogalmak sokszor tisztázatlan használata különösen annak fényében meghökkentő, hogy a morális felelősség fogalmáról (és nem annak egyes alkalmazási területeiről) szóló szakirodalom viszonylag egységes abban a tekintetben, hogy a morális felelősség fogalmát elsősorban az olyan reakciókon keresztül kell értelmezni, mint a morális hibáztatás vagy a büntetés más formái. Azaz a morális felelősség fősodorbeli irodalma szerint egy adott cselekvő akkor morálisan felelős egy eseményért, ha elvben megfelelő célpontja lehetne a morális hibáztatásnak (vagy a büntető jellegű reakciók más formáinak) – amennyiben persze a szóban forgó esemény morálisan rossz lenne. 

Még ha valaki nem is ért egyet e meghatározás minden részletével, azt talán nehéz vitatni, hogy a morális felelősség problémája elsősorban azért érdekel minket, mert kíváncsiak vagyunk, mikor megfelelő lépés valakit (vagy valamit?) hibáztatni, esetleg még nagyobb, még több szenvedéssel járó szankcióval sújtani. 

Ám ha tényleg ezt a szempontot tartjuk elsősorban szem előtt, nem sok értelme marad annak, hogy az önvezető autókat morálisan felelősnek tekintsük, hiszen a szenvedés semmilyen formáját nem képesek átélni. Bármilyen kárt is okoznak, az egyetlen racionálisan védhető reakciónak az tűnik, ha valamilyen módon átprogramozzuk őket. A velük szemben felvett, az ő büntetésükre irányuló negatív attitűdnek a jelek szerint ugyanúgy nncs értelme, mint ahogy értelmetlen az is, ha valaki mérgében szétveri számítógépe billentyűzetét.

Rendelkezik-e bárki morális felelősséggel az önvezető autók által okozott balesetekért?

Kétségkívül van valamilyen motiváció amögött, hogy az érzések átélésére képtelen, ámde nagyfokú önállóssággal rendelkező, tanulásra is képes rendszereket morálisan felelősnek tekintsük. Mégpedig az, hogy ha morálisan felelősnek tekintjük például az önvezető autókat az általuk okozott károkért, akkor részben vagy egészében mentesül a történet többi résztvevője a felelősség alól: a gyártó, az állam és a tulajdonos.

Ehhez azonban nem szükséges, hogy az önvezető autókat morálisan felelősnek tekintsük. Elegendő, ha kijelentjük: senki sem rendelkezhetett az ahhoz szükséges kontrollal vagy tudással, hogy megakadályozza a kérdéses baleset bekövetkezését, részben azért, mert senki sem láthatta előre, hogy az önvezető autó programja ebben és ebben a konkrét esetben rossz döntést fog majd hozni.

Ez azonban nehezen védhető. Mind a gyártónak, mind az államnak, mind a tulajdonosnak tudnia kellene, hogy bármilyen körültekintő legyen is a fejlesztési folyamat, aligha lehet remélni, hogy a szoftver egészen tökéletesen működjön. Ami még fontosabb: még azt is jó okunk van feltételezni, hogy némely esetben az önvezető autó szoftvere olyan hibás döntéseket fog hozni, amelyeket egy emberi vezető nem hozna meg. Másképpen működik a gépi és emberi érzékelés, észlelés (az észlelt alakzatok beazonosítása) és döntéshozatal, ennek következtében valószínű, hogy nem teljesen ugyanabban az esetekben hibáznak. Például az Uber által tesztelt és fejlesztett önvezető autó azért okozott balesetet, mert nem volt képes beazonosítani a biciklit toló gyalogost – amire egy emberi vezető alighanem képes lett volna. Tehát arra kell számítanunk, hogy az önvezető autók olyan baleseteket is fognak okozni, amelyeket egy emberi sofőr elkerült volna. 

Mindez egyrészt azt jelenti, hogy mind az államnak, mind a gyártónak, mind a tulajdonosnak tudnia kellene, hogy az önvezető autó forgalomba helyezése azt kockáztatja, hogy olyan, akár emberéleteket követelő balesetek fognak bekövetkezni, amelyek egyébként nem következnének be. Másrészt mindhárom szereplő rendelkezik valamiféle ellenőrzéssel afölött, hogy az önvezető autó forgalomba kerül-e. A gyártó cég azért, mert nélküle nem jöhetne létre az autó; az állam azért, mert az engedélye nélkül nem kerülhetne piacra; a fogyasztó pedig azért, mert ő az, aki megvásárolja az autót, és bekapcsolódik vele a forgalomba. Ezért mindhárom szereplő rendelkezik morális felelősséggel az önvezető autó által okozott balesetért.

Morális felelősség hibáztathatóság nélkül

Ugyanakkor az a tény, hogy a gyártó, az állam és a felhasználó morálisan felelős az önvezető autó által okozott balesetért, nem jelenti automatikusan azt, hogy hibáztathatók is érte. Ugyanis ha a negatív esemény bekövetkezésének kockázatát azért vállaltuk fel, mert ennek a kockázatvállalásnak megfelelő indoka volt, abban az esetben nem érdemlünk sem hibáztatást, sem más szankciót a szóban forgó negatív eseményért. Képzeljük csak el, hogy valaki a kezénél fogva visszaránt egy figyelmetlen gyalogost, és ezzel megmenti őt – ám a rántás ereje miatt a figyelmetlen gyalogos keze megsérül. Természetesen az illető nem hibáztatható azért, ami tett, jóllehet morálisan felelős érte, hiszen tudnia kellett, hogy egy ilyen erős hirtelen rántás magában hordozza a sérülés veszélyét.

Az önvezető autó bevezetésének legerősebb indoka, hogy sokak szerint összességében csökkenteni fogja a balesetek számát. Hogy lehetséges ez, ha az önvezető autó bevezetése a baleset okozásának nem elhanyagolható kockázatával jár? Úgy, hogy az emberek jelentős része, ha nem áll rendelkezésére önvezető autó, hagyományos személygépkocsival fogja megközelíteni célját. A hagyományos személygépkocsi pedig nagyobb mértékben növeli a balesetek bekövetkezésének kockázatát, mint a valódi önvezető autó. Ugyan az önvezető autó érzékelői, észlelése és döntéshozatala olyan esetekben is hibákat fog elkövetni, amikor egy ember nem hibázna, de – így érvelnek az önvezető autók mellett lándzsát törők – jóval nagyobb az olyan esetek száma, amelyekben az ember követne el hibát, de az önvezető autó nem. Az önvezető autó több információhoz jut, ráadásul jobban és gyorsabban is dolgozza fel ezeket az információkat, nem beszélve arról, hogy nem fog azért baleseteket okozni, mert részeg, dühös, vagy éppen nyomkodja vezetés közben a telefonját.

Ebből a perspektívából nézve az önvezető autó életeket ment, nem is keveset, és ezért kell törekednünk arra, hogy a hagyományos személyautókat minél előbb kiszorítsa. Az önvezető autók által okozott balesetek így egy helyes lépés nem kívánt mellékhatásai, amelyekért egyik szereplő sem érdemel hibáztatást, amennyiben mindnyájan körültekintően jártak el.

Vajon ez azt jelentené, hogy a fenti szereplők morális felelőssége üres szó volna csupán? Nem, mivel e felelősség adja meg a morális alapját annak, hogy a törvényalkotók a jogi felelősséget valamelyik szereplőre hárítsák.

Miért viselje az önvezető autó tulajdonosa a jogi felelősséget?

Ha az önvezető autók bevezetése valóban életeket mentene, akkor az állam akkor járna el helyesen, ha arra törekedne, hogy minél hamarabb elterjedjenek a hagyományos autóknál összességében biztonságosabb valódi önvezető autók. Ezt a célt akkor tudja a leghatékonyabban előmozdítani, ha a gyártókat mentesíti a jogi felelősség alól azokban az esetekben, ahol nem olyan hiba áll a háttérben, amelyet egy elfogadható alaposságú tesztelés során elvárható lett volna kiszűrni. Ha ugyanis a gyártóknak kellene állnia a baleset által okozott károkat olyankor is, ha a hiba természetéből fakadóan rejtve maradhatott elfogadható tesztelés során is, akkor a gyártók csak akkor dobnák piacra termékeiket, amikor már azok jóval biztonságosabbak a hagyományos autóknál. Ám ez a késleltetés azt (is) jelenti, hogy – mivel nem cserélik le a hagyományos autók egy részét önvezető autókra – többen halnak meg az utakon annál, mintha a gyártók már akkor piacra dobják termékeiket, amikor azok már valamilyen nem elhanyagolható mértékben biztonságosabbak, mint a hagyományos autók. 

Az sem megoldás, hogy egyszerűen az állam térítse meg a balesetekből fakadó károkat. Amellett, hogy ez a költségvetést jelentősen megterhelné, csökkentené a gyártók motivációját arra, hogy minél biztonságosabb járműveket fejlesszenek.

Ezért kell, hogy az autó tulajdonosa legyen jogilag felelős az okozott balesetekért. Ez bizonyos szempontból igazságtalan, hiszen a gyártó alighanem nagyobb morális felelősséget visel értük. Ám ezt az igazságtalanságot ellensúlyozzák egyrészt az önvezető autók gyorsabb elterjedésének köszönhetően megmentett életek, másrészt az, ha a tulajdonosokat a jogrendszer kötelezi arra, hogy valamilyen speciális felelősségbiztosítást kössenek. Ekkor a balesetek költségeit nem a peches tulajdonos állja, hanem – a biztosító közvetítésével –az önvezető autók tulajdonosainak egy közössége. 

A tudatlanság és a hatalom terhe

E gondolatmenet Achilles-sarka, hogy valójában nem tudjuk, hogyan tudhatnánk meg a forgalomba való bevezetése előtt, hogy egy önvezető autó összességében biztonságosabb-e, mint egy átlagos vezetői képességekkel rendelkező ember által vezetett autó. Nidhi Kalra számítógéptudós és Susan Paddock statisztikus kiszámolta, hogy ahhoz, hogy statisztikailag szignifikáns eredményt kapjunk, arra volna szükség, hogy önvezető autóink legalább több százmillió mérföldet (vagy akár kilométert) levezessenek, vagy ha igazán megbízható eredményeket szeretnénk, ennek sokszorosát. Ugyan a kutatók keresik e problémára a megoldást, de kétséges, hogy szimulációs módszerekkel át tudnánk ezeket hidalni.

A nehézség az, hogy a törvényhozóknak minél előbb döntést kell hozniuk, ugyanis az az általános vélemény, hogy nem vagyunk olyan messze attól, hogy a gyártók előálljanak a valóban autonóm módon működő önvezető autóikkal. És sajnos az is – jóllehet igen felelőtlen – döntés lenne ebben a szituációban, ha a politikai közösség lemondana arról, hogy az új helyzetet látva megfelelő szabályokkal álljon elő. Ezért e bizonytalan helyzetben mégiscsak valamilyen döntést kell hozni arról, hogy miképpen szabályozzuk az önvezető autókat.

Úgy vélem, ha az önvezető autók működési elvének és teljesítményük ismeretében már jó okunk van valószínűnek tartani azt, hogy az önvezető autók biztonságosabban vezetnek egy emberi sofőrnél, abban az esetben statisztikailag szignifikáns és perdöntő ismeretek hiányában is érdemes lehet az önvezető autókat bevezetni a forgalomba. Hiszen, ne feledjük, az is hiba, ha tiltjuk az önvezető autók forgalomba helyezését, miközben már valamelyest biztonságosabbak, mint a hagyományos járművek. 

De nem szabad figyelmen kívül hagyni, hogy nincs kétségbevonhatatlan tudásunk erről a szó szerint életbevágó kérdésről. Ezért eleinte érdemes lenne korlátozni, hol, hogyan és mikor kapcsolódhatnak be a valódi autonómiával rendelkező önvezető járművek a forgalomba. Például eleinte olyan városokban lehetne engedélyezni, ahol kisebb a gyalogos és járműforgalom, vagy csak bizonyos járműtípusban engedélyezni: buszok, taxik és más olyan járművek esetében, amelyek elkülönített sávban haladhatnak a forgalmas környékeken. A fölösleges áldozatok elkerülésének érdekében ezeket a megszorításokat úgy kellene életbe léptetni, hogy szakértők segítségével a törvényhozók figyelembe veszik a helyi forgalom sajátosságait. Hogy végül a balesetekért az ártatlanok legalább ne az életükkel fizessenek.

A szerző az MTA BTK Filozófiai Intézetének Fiatal Kutatója, valamint az ELTE BTK Filozófia Intézetének Egyetemi Adjunktusa.

A szöveg az Emberi Erőforrások Minisztériuma ÚNKP-18-4 kódszámú Új Nemzeti Kiválóság Programjának, valamint Bolyai János Kutatási Ösztöndíjának (BO/00432/18/2) támogatásával készült.

Kapcsolódó cikkek a Qubiten:

Az emberiségbe van kódolva, hogy elbukja a klímaváltozás elleni harcot

Szécsi Balázs közgazdász szerint vannak olyan, az emberiség lényegéből fakadó láthatatlan erők, amelyek megakadályozzák, hogy radikális fordulatot hajtsunk végre a klímaváltozás megállítása érdekében. Ezek az erők észrevétlenül épültek be mindennapi döntéseinkbe, és afelé terelnek minket, hogy a klímavédelem céljaival tökéletesen ellentétesen viselkedjünk.