A detroiti rendőrség beismerte, hogy az arcfelismerő technikája 96 százalékban téved
- Link másolása
- X (Twitter)
- Tumblr
Az ACLU nevű amerikai nonprofit polgárjogi szervezet a múlt héten nyújtott be panaszt a detroiti rendőrséggel szemben, miután kiderült, hogy a Robert Williams nevű fekete férfit ártatlanul tartóztatták le azzal a gyanúval, hogy 3800 dollár értékben lopott el öt karórát egy luxusüzletből. A detroiti rendőrség hamar bevallotta, hogy a Dataworks Plus nevű cégtől rendelt arcfelismerő szoftver hibája miatt azonosították gyanúsítottként a férfit.
A rendőrség hétfőn azt is közölte, hogy a mesterséges intelligencia vezérelte szoftver az esetek 96 százalékában hibásan azonosítja az egyes gyanúsítottakat. A Dataworks Plus ügyvezetője, Todd Pastorini az ügyről beszámoló Vice-nak azt mondta, hogy a cég nem vezet statisztikát a szoftver való életbeli pontosságáról, és abba sem szólnak bele, hogy a bűnüldözési szerveknek hogyan használják fel a szoftverüket.
Pastorini szerint a média démonizálja az arcfelismerő szoftvereket, és a detroiti rendőrség közleményét is félre fogják értelmezni, miközben elképzelhető, hogy nem a szoftver, hanem a rendőrség tehet a jelentős hibaszázalékról. Az ügyvezető az ujjlenyomatos azonosításhoz hasonlította az arcfelismerő szoftvert, mivel egy ujjlenyomatról sem vezethető vissza egyetlen emberre egy bűncselekmény, mindössze néhány tíz vagy száz főre csökkenti a gyanúsítottak számát. „Ezeket utána mérlegelni kell, a minta és az adatbázis összevetésével.”
A detroiti rendőrök szerint a rendszer bevezetése óta látványosan nőtt azok száma, akiket ártatlanul hallgatnak ki egy bűncselekmény elkövetésével kapcsolatban, ráadásul szinte kizárólag feketéket. Az év első felében eddig 70 alkalommal használták a technológiát, ebből 68 esetben fekete, 2 esetben pedig a rendszer által ismeretlen etnikumúként jelölt személy fotóját dobta fel a szoftver – ezek nagy részét a közösségi médiában megosztott képek, valamint biztonsági kamerás felvételek adták ki.
Bár a detroiti rendőrség bevallása szerint az eddig összesen 185 ügyben használt technológia eddig nem igazán volt hasznos, James Craig rendőrfőnök elmondta, szeretné a jövőben is igénybevenni az arcfelismerő szoftvert, ugyanis bármikor hasznos kisegítő eszköz lehet egy bűntény feltárásában.
Az ACLU arra hívta fel Detroit és más amerikai városok rendőrségét, hogy a beismert hibaszázalék ismeretében hagyjanak fel az arcfelismerő technológia alkalmazásával a bűnüldözésben. Ennek elsőként – több kisebb massachusettsi közösséggel együtt – Boston tett eleget a múlt héten, de az elmúlt hetekben több javaslat született a technológia szélesebb körű tiltására, például az egyik legnagyobb (most már ex-) gyártó, az IBM részéről is.
Kapcsolódó cikkek a Qubiten:
Az IBM szakít az arcfelismerő technológiával
Miután idén botrányt botrányra halmoznak az arcfelismerő szoftvereket gyártót techcégek, az IBM vezérigazgatója az amerikai kongresszusnak írt levelében hívta fel a jogsértő megfigyelésre alkalmas, rendőrségi visszaélésekhez is vezető technológia veszélyeire.
Már a mesterséges intelligencia is előítéletes, és ez az ember hibája
A diszkrimináció emberi hagyományát egyelőre a teljesen racionális algoritmusok is folytatják. Miért érdemes tenni ez ellen, és miért nehéz elérni, hogy a gép mindenkit egyenlő bánásmódban részesítsen?
San Francisco az első amerikai város, ahol betiltották az arcfelismerő technológiát nyilvános helyeken
A megfigyelő rendőrállamot igyekeznek elkerülni San Franciscóban, de többek szerint ezzel hasznos eszközt vesznek ki a bűnüldözők kezéből.