A gyilkos robotok megjelenését a hadviselés harmadik forradalmának is nevezik, a puskapor és az atombomba után. Előbbi a távolsági harcot, utóbbi az elképzelhetetlen tömeggyilkosságot tette lehetővé, a gyilkos robotok pedig a gyilkolás felelősségétől is megszabadítanák az embert.

Gyilkos robotnak nevezik azokat a fegyvereket, amelyek emberi közbenjárás nélkül választanak maguknak célpontot, és hajtják végre a támadást. Ezeket másképp halálos autonóm fegyverrendszereknek (lethal autonomous weapons, LAWs) is szokás nevezni, a lényeg, hogy olyan mesterséges intelligenciával rendelkező gépek, amik emberi utasítás nélkül ölnek.

Hogy kell-e félnünk tőlük, és hogy mit tesz a világ azért, hogy ne kelljen, azt a CEU-n csütörtökön tartott, Let's Stop Killer Robots Before It Is Too Late című előadáson ismertette a Campaign to Stop Killer Robots (CSKR) nevű, több mint 110 jogvédő és tudományos szervezetből álló mozgalom két magyarországi képviselője, Bíró Dalma és Vitrai Barbara.

Nyílt levelekkel kikövezett út vezetett az ENSZ-be

Mivel mesterséges intelligenciával rendelkező gyilkos robotok (legalábbis hivatalosan) egyelőre nem léteznek, azok jövőbeni gyártását sem szabályozza semmilyen rendelet, törvény, jogszabály. A CSKR így azt szeretné elérni, hogy már előre betiltsák a gyilkos robotokat egy nemzetközi egyezmény formájában. A korlátozás nem elég, mondják, kiskapukat ugyanis mindig találni, és ha már egyszer elkezdik gyártani, felmerül a lehetőség, hogy illegális célokra fogják használni.

De be lehet egyáltalán tiltani valamit, ami nem létezik? Bíró Dalma, a mozgalom magyar koordinátora szerint igen. A CEU előadásán Bíró elmondta, precedens is van olyan esetre, amikor technológiailag már lehetséges, de a hadviselésben még fel nem használt technológiát tiltottak be: a vakító lézerfegyverek használatát 1998 óta ENSZ-egyezmény tiltja.

Emellett az önjáró robotkatonákhoz hasonlóan embertelen gyilkolási módszereket is sikerült már betiltatni azzal az indokkal, hogy civil emberi életeket veszélyeztetnek: az 1997-es ottawai egyezménnyel megszűnt a gyalogsági aknák legalitása (nem mintha ez Szíriában vagy Jemenben bárkit is zavarna), 2008-ban pedig a kazettás lőszereket is sikerült nemzetközi egyezményben betiltani – igaz, ezt meg az Egyesült Államok, Oroszország és Kína nem írta alá a mai napig.

A CSKR 2013 áprilisában alakult, és az egyes hagyományos fegyverek (CCW) genfi egyezményét aláíró felek éves konferenciáján már abban az évben felszólalt a halálos autonóm fegyverek ellen. Első igazi nagy dobása egy 2015-ös nyílt levél volt a gyilkos robotok előzetes betiltásának fontosságáról, amelybet neves kutatók mellett olyanok is aláírtak, mint Stephen Hawking, Elon Musk, Jack Dorsey vagy Steve Wozniak. Ezt 2017-ben egy újabb nyílt levél követte, ebben már 116 techcég hívta fel az ENSZ figyelmét a technológia veszélyeire.

2018 nagy év volt a mozgalom életében. Júniusban a Gizmodo kiderítette, hogy a Google részt vett az USA védelmi minisztériumának egy titkos projektjében, amely szerint a cégmesterséges intelligenciával rendelkező drónokat gyártott volna a Pentagonnak. Miután megjelent a cikk, többen felmondtak a Google-nél, Sundar Pichai vezérigazgató pedig egy 4000 alkalmazott aláírásával ellátott levelet kapott, amelyben követelték, hogy a Google ne vegyen részt háborús technológiák fejlesztésében. Pichai egy blogposztban ígérte meg, hogy a cég nem fog AI-t fejleszteni fegyverekhez, a Pentagonnal kötött szerződést pedig nem újítja meg 2019-es lejárta után.

Júliusban aztán már közös vállalást is tett 164 szervezet és 2410 szakértő egy nyilatkozat formájában, amelyben arra kérik a techcégeket és a kormányokat, hogy szabályokban és törvényekben rendelkezzenek a halálos AI-fegyverek ellen – az aláírók között ott volt Elon Musk (aki a SpaceX és a Tesla mellett az OpenAI alapítója is) és a Google DeepMind vezetői is. Még ez év novemberében António Guterres, az ENSZ főtitkára is lendített egyet az ügyön, amikor a lisszaboni Web Summiton azt mondta:

„Az olyan gépek, amelyeknek megvan a hatalmuk és az ítélőképességük ahhoz, hogy emberi életeket oltsanak ki, politikailag elfogadhatatlanok, erkölcsileg visszataszítók, és nemzetközi törvénynek kellene tiltania őket.”

A nagyhatalmak nem engednek a gyilkos robotokból

Maguk a tárgyalások viszont nem haladnak túl fényesen, Nagy-Britannia például már 2015-ben azzal tagadta meg a gyilkos robotok tiltásának támogatását, hogy egyszerűen felesleges, mert a humanitárius egyezmények úgyis eléggé szabályozzák ezt az élet-halál dolgot. Azóta ugyan már több mint 30 ország kinyilvánította, hogy betiltaná a gyilkos robotokat, de a főleg afrikai és latin-amerikai országokat tartalmazó listán nincs rajta egy jelentős nyugati hatalom sem – miközben Ororszország autonóm robothadseregről álmodozik, az USA pedig AI-vezérelt drónokkal kísérletezik a bázisain. Kínáról végképp nem tudja senki, hogy mit csinál.

„Mert a férfiaknak feláll az új fegyverektől. Csak azért csinálják, mert megtehetik. Azért, mert kíváncsiak, hogy meddig lehet elmenni” – nyilatkozta a Guardiannek a lehetséges válság okairól a CSKR nagyköveteként is tevékenykedő, Nobel-békedíjas Jody Williams. A szervezet első globális találkozóján, idén márciusban arra kérték a hangosan gyilkosrobot-ellenes külügyminiszterrel rendelkező Németországot, hogy álljon az ügy élére, és tiltsa be elsőként az autonóm fegyvereket, és így talán a többi európai ország is előáll a saját szabályozásával.

A szervezet megbízásából az Ipsos készített közvélemény-kutatást a technológia népi megítéléséről: a 26 országon átívelő, országonként 500-1000 ember véleményét összesítő, idén januárban kiadott felmérés szerint globálisan 5 emberből 3 támogatja a gyilkos robotok betiltását – pontosan 61 százalék az arányuk, a két évvel korábban végzett kutatás 56 százalékához képest. A megkérdezettek 66 százaléka erkölcsi okokból tiltaná be az autonóm fegyvereket, 54 százalékuk szerint pedig a felelősségre vonhatóság hiánya miatt lenne veszélyes engedélyezni a technológiát.

Mind a négy nagy országban, ahol az állam ellenzi a gyilkos robotok előzetes betiltását, többségben voltak azok a válaszadók, akik támogatnák ezt a szabályozást: Kínában (amely egyébként a hadviselésben való felhasználását tiltaná, de a fejlesztésről és a gyártásáról nem mond le) 60, Oroszországban 59, Nagy-Britanniában 54, az Egyesült Államokban pedig 52 százaléknyian voltak a gyilokrobotfóbiások.

Magyarországnak ugyan nincs hivatalos álláspontja az autonóm fegyverekről, de a lakossági megítélés egyértelmű: Törökország (78 százalék) és Dél-Korea (74 százalék) után Magyarországon lett a harmadik legnagyobb támogatottsága a technológia betiltásának, kerekítve szintén 74 százalékkal. Igaz, a CEU előadásán az is elhangzott, hogy tapasztalatok szerint nagyon kevesen tudják egyáltalán, miről van szó, amikor autonóm fegyverrendszerekről vagy gyilkos robotokról beszélnek.

2014 óta hét CCW-konferenciát rendeztek Genfben, az utóbbi kettőn viszont már magyar diplomaták nem vettek részt – Bíró Dalma azt reméli, hogy az augusztusban sorra kerülő következő eseményre sikerül magyar képviselőt delegálni, ha már a nép ennyire a szívén viseli az ügyet.

Félelmetes, de máshogy

Persze nem a Star Wars harci droidjaira vagy a Terminátor T-1000-esére kell gondolni, amikor gyilkos robotokról beszélnek, ezeknél még a Magyarországon Gyilkos robotok néven bemutatott Runaway című, 1984-es, Tom Selleck főszereplésével készült film autópályán száguldozó porszívórobotjai is jobban hasonlítanak a ma elképzelhetőnek tartott AI-fegyverekhez.

De van egy még pontosabb popkulturális kapaszkodó: a Black Mirror 3. évadának záróepizódjában, a Hated in the Nation címűben a méhpopulációk vészes csökkenése miatt kifejlesztett önvezető drónrovarok kerülnek rossz kézbe, és programozzák át őket a közösségi médiában közutálatnak örvendő személyek felkutatására és megölésére.

Már talán ennek a szellemében készült az emberiség jövőjét a technológiától féltő Future of Life Institute (FLI) disztópikus TED Talk-paródiája is, amelyben egy mesterséges intelligenciával rendelkező, tenyérnyi méretű, zümmögő drónt mutat be az ál-techmágnás, ami akár aranyos is lehetne, ha a kamerái, szenzorai és arcfelismerő rendszere mellett nem lenne felszerelve egy kis adag robbanóanyaggal, ami épp csak annyit ér, hogy lyukat vágjon a koponyán keresztül az agyban.

Aztán mikor véget ér a hétperces, meggyőző híradóbejátszásokkal felturbózott ijesztgetés, és meg lehetne könnyebbülni, hogy ez azért még elég sci-fi, akkor jön Stuart Russell, a Berkeley-i Kaliforniai Egyetem számítógéptudomány-professzora, aki több mint 35 éve foglalkozik a mesterséges intelligenciával, és ezt mondja:

„Ez a rövidfilm több mint egyszerű fantázia. Olyan technológiák integrálásának és miniatürizálásának eredményét mutatja, amik ma is léteznek. (...) A mesterséges intelligencia potenciális előnyei az emberiségre nézve óriásiak, még a hadiiparban is. De ha engedjük a gépeknek, hogy önszántukból embereket ölhessenek, az pusztítóan hatna a biztonságunkra és a szabadságunkra.”

Kapcsolódó cikkek a Qubiten: