A detroiti rendőrség beismerte, hogy az arcfelismerő technikája 96 százalékban téved

Nincsen túlélhető és fenntartható jövőnk tudomány nélkül, ahogy nekünk sincsen nélkületek. Támogasd a Qubit munkáját!

Az ACLU nevű amerikai nonprofit polgárjogi szervezet a múlt héten nyújtott be panaszt a detroiti rendőrséggel szemben, miután kiderült, hogy a Robert Williams nevű fekete férfit ártatlanul tartóztatták le azzal a gyanúval, hogy 3800 dollár értékben lopott el öt karórát egy luxusüzletből. A detroiti rendőrség hamar bevallotta, hogy a Dataworks Plus nevű cégtől rendelt arcfelismerő szoftver hibája miatt azonosították gyanúsítottként a férfit.

A rendőrség hétfőn azt is közölte, hogy a mesterséges intelligencia vezérelte szoftver az esetek 96 százalékában hibásan azonosítja az egyes gyanúsítottakat. A Dataworks Plus ügyvezetője, Todd Pastorini az ügyről beszámoló Vice-nak azt mondta, hogy a cég nem vezet statisztikát a szoftver való életbeli pontosságáról, és abba sem szólnak bele, hogy a bűnüldözési szerveknek hogyan használják fel a szoftverüket.

Pastorini szerint a média démonizálja az arcfelismerő szoftvereket, és a detroiti rendőrség közleményét is félre fogják értelmezni, miközben elképzelhető, hogy nem a szoftver, hanem a rendőrség tehet a jelentős hibaszázalékról. Az ügyvezető az ujjlenyomatos azonosításhoz hasonlította az arcfelismerő szoftvert, mivel egy ujjlenyomatról sem vezethető vissza egyetlen emberre egy bűncselekmény, mindössze néhány tíz vagy száz főre csökkenti a gyanúsítottak számát. „Ezeket utána mérlegelni kell, a minta és az adatbázis összevetésével.”

Egy arcfelismerő szoftver bemutatója a 2017-es NVIDIA GPU Tech konferenciánFotó: SAUL LOEB/AFP

A detroiti rendőrök szerint a rendszer bevezetése óta látványosan nőtt azok száma, akiket ártatlanul hallgatnak ki egy bűncselekmény elkövetésével kapcsolatban, ráadásul szinte kizárólag feketéket. Az év első felében eddig 70 alkalommal használták a technológiát, ebből 68 esetben fekete, 2 esetben pedig a rendszer által ismeretlen etnikumúként jelölt személy fotóját dobta fel a szoftver – ezek nagy részét a közösségi médiában megosztott képek, valamint biztonsági kamerás felvételek adták ki.

Bár a detroiti rendőrség bevallása szerint az eddig összesen 185 ügyben használt technológia eddig nem igazán volt hasznos, James Craig rendőrfőnök elmondta, szeretné a jövőben is igénybevenni az arcfelismerő szoftvert, ugyanis bármikor hasznos kisegítő eszköz lehet egy bűntény feltárásában.

Az ACLU arra hívta fel Detroit és más amerikai városok rendőrségét, hogy a beismert hibaszázalék ismeretében hagyjanak fel az arcfelismerő technológia alkalmazásával a bűnüldözésben. Ennek elsőként – több kisebb massachusettsi közösséggel együtt – Boston tett eleget a múlt héten, de az elmúlt hetekben több javaslat született a technológia szélesebb körű tiltására, például az egyik legnagyobb (most már ex-) gyártó, az IBM részéről is.

Ha tetszik, amit csinálunk, ha te is fontosnak tartod, hogy magyar nyelven legyen egy okos és közérthető lap, ami nem a politikai barikádok csatazajáról tudósít, hanem a ránk váró – bátran mondjuk ki, ez az év is megmutatta, mennyire nem túlzás ez – civilizációs kihívásokkal foglalkozik, ami fel meri tenni a jövőnkkel kapcsolatos igazi kérdéseket, és meg is mutatja a modern tudomány válaszait mindezekre, nos ha ez szerinted is olyan égetően fontos, ahogy mi gondoljuk: heroikus munkát végző hat újságíróval, sok tucatnyi kutatóval és csak egy egészen kicsi kiadóval a hátunk mögött, akkor támogasd a munkánkat rendszeresen – számít a segítséged!

Kapcsolódó cikkek a Qubiten: