Az ACLU nevű amerikai nonprofit polgárjogi szervezet a múlt héten nyújtott be panaszt a detroiti rendőrséggel szemben, miután kiderült, hogy a Robert Williams nevű fekete férfit ártatlanul tartóztatták le azzal a gyanúval, hogy 3800 dollár értékben lopott el öt karórát egy luxusüzletből. A detroiti rendőrség hamar bevallotta, hogy a Dataworks Plus nevű cégtől rendelt arcfelismerő szoftver hibája miatt azonosították gyanúsítottként a férfit.

A rendőrség hétfőn azt is közölte, hogy a mesterséges intelligencia vezérelte szoftver az esetek 96 százalékában hibásan azonosítja az egyes gyanúsítottakat. A Dataworks Plus ügyvezetője, Todd Pastorini az ügyről beszámoló Vice-nak azt mondta, hogy a cég nem vezet statisztikát a szoftver való életbeli pontosságáról, és abba sem szólnak bele, hogy a bűnüldözési szerveknek hogyan használják fel a szoftverüket.

Pastorini szerint a média démonizálja az arcfelismerő szoftvereket, és a detroiti rendőrség közleményét is félre fogják értelmezni, miközben elképzelhető, hogy nem a szoftver, hanem a rendőrség tehet a jelentős hibaszázalékról. Az ügyvezető az ujjlenyomatos azonosításhoz hasonlította az arcfelismerő szoftvert, mivel egy ujjlenyomatról sem vezethető vissza egyetlen emberre egy bűncselekmény, mindössze néhány tíz vagy száz főre csökkenti a gyanúsítottak számát. „Ezeket utána mérlegelni kell, a minta és az adatbázis összevetésével.”

A detroiti rendőrök szerint a rendszer bevezetése óta látványosan nőtt azok száma, akiket ártatlanul hallgatnak ki egy bűncselekmény elkövetésével kapcsolatban, ráadásul szinte kizárólag feketéket. Az év első felében eddig 70 alkalommal használták a technológiát, ebből 68 esetben fekete, 2 esetben pedig a rendszer által ismeretlen etnikumúként jelölt személy fotóját dobta fel a szoftver – ezek nagy részét a közösségi médiában megosztott képek, valamint biztonsági kamerás felvételek adták ki.

Bár a detroiti rendőrség bevallása szerint az eddig összesen 185 ügyben használt technológia eddig nem igazán volt hasznos, James Craig rendőrfőnök elmondta, szeretné a jövőben is igénybevenni az arcfelismerő szoftvert, ugyanis bármikor hasznos kisegítő eszköz lehet egy bűntény feltárásában.

Az ACLU arra hívta fel Detroit és más amerikai városok rendőrségét, hogy a beismert hibaszázalék ismeretében hagyjanak fel az arcfelismerő technológia alkalmazásával a bűnüldözésben. Ennek elsőként – több kisebb massachusettsi közösséggel együtt – Boston tett eleget a múlt héten, de az elmúlt hetekben több javaslat született a technológia szélesebb körű tiltására, például az egyik legnagyobb (most már ex-) gyártó, az IBM részéről is.

Kapcsolódó cikkek a Qubiten: