Ha már mindenképpen elkerülhetetlen a halálos baleset, kit üssön el inkább egy algoritmus által irányított önvezető autó? Kisgyereket? Nyugdíjast? Embert? Állatot?

A Massachusettsi Műszaki Egyetem (MIT) Moral Machine (erkölcsgép) című kérdőívére 233 országból 40 millióan válaszoltak, köztük Magyarországról is; Iyad Rahwan, az egyetem informatikaprofesszora a Nature október végi számában publikálta az etika és a mesterséges intelligencia területének határmezsgyéjén fekvő internetes kutatásának eredményét.

A mesterséges intelligencia fejlődése miatt ennek a területnek a vizsgálata egyre szükségszerűbb, ugyanis a számítógépeknek lassan olyan döntéseket kell majd meghozniuk helyettünk, amelyeknél már etikai szempontokat is figyelembe kell venniük. Vegyünk például egy önvezető autót, amely észleli, hogy egy baleset elkerülhetetlen, és választania kell, hogy a környéken sétálók és az autó utasai közül ki haljon meg. Minek alapján hozza meg ezt az ember számára is nagyon nehéz etikai döntést egy gép? A dilemma hasonlatos egy régebbi, az 1960-as években feltett filozófiai kérdéshez, ami villamosprobléma (angolul: trolley problem) néven híresült el, és mint a legtöbb filozófiai kérdés esetében, sok ideig nem lehetett feltételezni róla, hogy egyszer majd komoly gyakorlati jelentősége lesz.

Kit üssön el a villamos?

A villamosprobléma, amelyet először a brit filozófus, Philippa Foot vetett fel, a következő helyzetet írja le. Egy villamos megállíthatatlanul halad előre a pályáján, és egyenesen előtte a síneken öt ember van, akik mind meghalnak, ha a jármű elüti őket. Van azonban egy mellékvágány, ami még a sínen álló emberek előtt elágazik, azonban ezen is áll egy ember. Ha egy váltókar meghúzásával átterelhetjük a villamost a mellékvágányra, és ezzel megölünk egy embert, de megmentjük öt másik ember életét, megtennénk-e?

A kérdés egy másik változatában nincs mellékvágány, van viszont egy kifejezetten tagbaszakadt ember, aki meghalna, ha a villamos elé kerülne, viszont testével megállítaná a villamost (az erről szóló rajzot lásd itt). Lelökjük, és ezzel megölünk-e egy embert úgy, hogy azzal megmentünk öt másik életet, vagy nem csinálunk semmit, és öt ember meghal?

Rahwan azt akarta megállapítani, hogy az emberek szerint kinek az életét kell előnyben részesítenie az önvezető autóknak. Ez a szituáció eltér attól, amit a villamosprobléma felvázol, hiszen itt még gondolatban sem nekünk kell végrehajtanunk a halált okozó cselekedeteket, csak el kell bírálnunk a felvázolt helyzeteket. A kérdések egyszerre tűnnek fontosnak és bizarrnak, hiszen korábban még sosem adtuk algoritmusok kezébe az emberi élet és halál feletti döntés jogát.

Iyad Rahwan cikkében kiemeli, hogy az emberek többségi döntése nem az egyetlen szempont, amit a programozóknak és végső soron az engedélyezésről döntő kormányoknak figyelembe kell venniük. A tanulmány ugyanakkor jó mércéje lehet annak, hogy milyen döntési preferenciákkal rendelkező gépeket tudnának elfogadni az állampolgárok az utakon, és milyeneket nem.

Te mit tennél ebben a helyzetben?

A kérdőív kitöltésekor 13 helyzetben kell eldöntenünk, hogy melyik útra térjen az önvezető autó, azaz kiket üssön el, és kiket mentsen meg. Információkat kapunk az egyes járókelők és utasok életkoráról, neméről vagy foglalkozásáról, de azt is méri a gép, hogy mennyire vagyunk hajlamosak leterelni az autót eredeti pályájáról, mennyire részesítjük előnyben az utasokat vagy a járókelőket, és számít-e a döntésünkben, hogy szabályosan vagy szabálytalanul közlekedtek-e a gyalogosok.

A kérdőív kitöltése után az alábbi információkat kapjuk meg saját preferenciáinkról:

• Mennyire fontos nekünk a megmentett életek száma?

• Számít-e, hogy utasokat vagy gyalogosokat mentünk meg?

• Számít-e, hogy szabályosan vagy szabálytalanul közlekedtek a gyalogosok?

• Hajlamosabbak vagyunk-e átterelni az autót, vagy előnyben részesítjük a beavatkozás elkerülését?

• Mennyire preferáljuk az emberéletet az állatok életével szemben?

• A fiatalabbakat vagy az idősebbeket mentenénk meg inkább?

• A sovány vagy a kövér embereket mentenénk meg inkább?

• Számít-e, hogy az illető orvos, sportoló, esetleg gazdag üzletember, azzal szemben, ha bűnöző vagy hajléktalan, tehát befolyásolja-e döntésünket az érintettek szociális státusza?

Na de hogyan döntöttek a többiek?

Rahwan cikkének legfontosabb eredményét az egyéni eredmények összesítése adja, amely szerint a válaszadók többsége előnyben részesítette az emberéletet az állatokéval szemben, a több ember megmentését a kevesebbel szemben, és a gyerekek megóvását az idősebbek feláldozása árán.

A válaszadók által leginkább megóvott szereplő a babakocsis járókelő, a kislány, a kisfiú és a terhes nő, majd az orvosok, sportolók és vezető beosztásúak következnek. A leginkább feláldozhatók a macskák, a bűnözők és a kutyák, ebben a sorrendben, tehát a bűnözők életét kevésbé fontosnak ítélték meg a kitöltők, mint a kutyákét. Negatív elbírálásban részesültek még a hajléktalanok, az öregek, valamint a kövér emberek.

A rengeteg kitöltőnek és a sok országból érkező beküldésnek hála a kutatók a Föld külöböző nemzetiségű polgárainak preferenciáiról, köztük a magyarokéiról is le tudtak vonni következtetéseket. Három jellemző csoportba sorolták az országokat, amiket nyugatinak, keletinek és délinek neveztek el.

Magyarország a felmérés alapján a déli blokkba tartozik, az eredmények tekintetében legközelebbi szomszédaink a szlovákok és a csehek, majd a franciák és a dominikaiak. A déli tömb országai között a legtöbb a katolikus ország, és itt található majdnem mindegyik dél-amerikai állam. Közös preferenciáink, hogy a magas státuszúakat, a fiatalokat és a nőket erősebben óvjuk, mint a többi csoportba tartozó ország. A keletiek közé túlnyomórészt muszlim, buddhista vagy dél-ázsiai országok tartoznak, és a déliektől eltérő preferenciákkal rendelkeznek. Egyáltalán nem részesítik előnyben a fiatalokat és a soványokat, és kevésbé preferálják a jómódúakat vagy a nőket, mint mások, de fontos nekik, hogy a járókelő szabálytisztelően kelt-e át az utcán. A nyugati csoportba tartozik a legtöbb ország, köztük a jellemzően protestáns vagy ortodox országok, de mivel ez egy nagy és változatos csoport, a preferenciáik nem sokban térnek el a világátlagtól.

Még érdekesebb azonban önmagában az a konklúzió, hogy a világ országai kultúránként és vallásonként változó preferenciával rendelkezhetnek, így könnyen elképzelhető, hogy az Egyesült Államokban az amerikaiak preferenciái szerint beprogramozott önvezető autó egy chilei vagy szaúd-arábiai szemével morálisan elfogadhatatlan döntéseket hozna.

Így pedig azzal a problémával szembesülünk, hogy vagy nem vesszük figyelembe az adott terület lakóinak morális iránytűjét, vagy a határokon áthaladó autót automatikusan újraprogramozzuk, hogy az adott területen élők preferenciáinak megfelelően viselkedjen egy elkerülhetetlen baleset során. Ha pedig egyiket sem akarjuk megtenni, akkor nem engedhetjük át az önvezető autókat a határokon, mivel mindig fennáll annak a veszélye, hogy egy balesetet megelőző pillanatban emberéleteket befolyásoló döntést kell hozniuk.

A szerző az Oxfordi Egyetem mesterszakos közgazdaságtan-hallgatója. Összes írása a Qubiten itt olvasható.

Kapcsolódó cikkek a Qubiten: