Bűnözőket ismert fel az amerikai Kongresszus 28 tagjában az Amazon arcfelismerője

Az Amazon arcfelismerő rendszerét tesztelte az Amerikai Polgárjogi Unió (ACLU), nem igazán biztató eredménnyel. Hogy kipróbálják, mennyire tévedhetetlen a mesterséges intelligencia, az amerikai törvényhozás, a Kongresszus 535 tagjának arcát szkennelték be, és azt vetették össze 25 ezer nyilvános, bűnözőkről készült rendőrségi fotóval.

Bár egyik képviselő és szenátor sem szerepel a bűnözői adatbázisban, az Amazon Rekognition nevű szoftvere mégis 28 hamis párosítást generált, ami az ACLU szerint erősen megkérdőjelezi az arcfelismerő technológia rendőrségi használatának létjogosultságát.

Republikánus kongresszusi tagok tapsolják a kétéves értékelőjét tartó Donald Trump elnököt 2018. januárbanFotó: CHIP SOMODEVILLA/AFP

„Egy felismerés – akár igazi, akár téves – emberek szabadságába, sőt életébe kerülhet. A Kongresszus tagjainak komolyan kell venniük ezt a fenyegetést, és a fékre kell taposniuk, moratóriumot kell hirdetniük az arcfelismerő technológia használatára a bűnüldözésben” – közölte a szervezet.

Az Amazon egyik szóvivője a Verge-nek a rossz beállításokkal indokolta a kísérlet eredményeit. Az ACLU a kísérletben a Rekognitionben alapból beállított 80 százalékos bizalmi küszöbbel (confidence threshold) dolgozott, míg az Amazon 95 százalékos beállítást javasol, ha a szoftvert bűnüldözési célokra vetik be, tehát a fals azonosítás sokkal súlyosabb következményekkel járhat – magyarázta a cég meg nem nevezett képviselője.

A 80 százalékos beállítás hot dogok, székek, állatok felismerésére alkalmas, vagy egyéb közösségi médiás célokra, emberek azonosításánál ennél biztosabbra kell menni. Ugyanakkor a Rekognition egyáltalán nem erőlteti ezt az ajánlást, és a jelen körülmények között semmi sem akadályozza meg a törvény képviselőit abban, hogy az alapbeállításokkal használják a technológiát.

Az Amazon szoftvere májusban került a figyelem középpontjába, amikor éppen az ACLU jelentéséből kiderült, hogy a rendszert máris több büntetésvégrehajtó intézmény, köztük az orlandói rendőrség is használja. Az Amazon Web Services felhő részeként kínált szoftver rendkívül alacsony árával is kitűnik, egy teljes részleg használhatja egy hónapon keresztül kevesebb mint 12 dollárért. Az orlandói rendőrségen már lezárult a próbaüzem, de a helyi főkapitányság folytatja a kísérletezést.

Az ACLU tesztje ugyancsak kimutatta, hogy a rendszer faji szempontból elfogult: a 28 hibás párosításból ugyanis 11 esetben (azaz a a fals találatok 39 százalékában) nem fehér bőrű képviselőben ismert fel bűnözőt, köztük John Lewis képviselőben és polgárjogi vezetőben. A jelenlegi Kongresszusban csak 20 százalék a színesbőrű politikusok aránya.

John Lewis képviselő 2018 júniusábanFotó: Leigh Vogel/AFP

Korábban az amerikai Nemzeti Szabványügyi és Technológiai Intézetében végzett arcfelismerő tesztekből is kiderült, hogy a technológia nagyobb hibaszázalékkal dolgozik, ha afro-amerikaiak vagy nők arcát kell azonosítania.

A londoni rendőrség gyakorlatában minden valós felismerésre 49 hibás párosítás jut az ezek szerint még kezdetleges rendszerben, így a rendőröknek kézzel (illetve saját szemmel) kell meózniuk a gép találatait.