Az IBM szakít az arcfelismerő technológiával
„Az IBM határozottan ellenzi, ezért nem is nézi jó szemmel az arcfelismerő technológia tömeges megfigyelés vagy faji alapú nyilvántartásba vétel céljából történő, illetve bármilyen más, az alapvető emberi szabadságjogokat sértő felhasználását, mivel az nem egyeztethető össze az értékeinkkel és az alapelveinkkel” – írta az amerikai kongresszusnak címzett levelében Arvind Krishna, az IBM vezérigazgatója.
„Úgy gondoljuk, hogy itt az ideje nemzeti párbeszédbe kezdeni arról, hogy az arcfelismerő technológiát felhasználhassák-e a belföldi bűnüldöző szervek, és ha igen, milyen célokra”
– tette hozzá Krishna, aki a Verge-nek azt is elmondta, hogy a cég nemcsak az arcfelismerő szoftverei árusításával, de a komplett arcfelismerő technológia kutatásával és fejlesztésével is felhagy.
A mesterséges intelligencia fejlődéséből adódóan az arcfelismerő szoftverek képességei is jelentősen javultak az elmúlt évtizedben, de még így is gyakran jelennek meg olyan elemzések, amelyek – faji, etnikai vagy életkori – elfogultsággal vádolják a technológiát. Ez azt jelenti, hogy az ilyen eszközök egyelőre nem elég megbízhatók ahhoz, hogy bűnüldözési vagy biztonsági célokra használják, és könnyen megágyazhatnak polgári jogi jogsértéseknek.
A cégvezető emellett egy általános rendőrségi reform szükségességére is felhívta a döntéshozók figyelmét. Szerinte több rendőri visszaélést kellene szövetségi bíróságokon vizsgálni, illetve a kongresszusnak felül kell vizsgálnia a mentelmi jog hatáskörét is, amely az Egyesült Államokban kiterjedt védelmet nyújt a rendőröknek is.
Pontatlanság, előítélet, bírság
Az arcfelismerő technológiák hiányosságaira az elmúlt két évben több kutatás is rámutatott. 2018-ban az MIT kutatói a Gender Shades nevű projektben fedték fel, hogy három kiválasztott cég technológiája mennyire megbízhatóan tudja azonosítani az egyes arcokat.
Már az összetett eredmény sem volt tökéletes (a Microsoft 93,7; a kínai Face++ 90; az IBM 87,9 százalékban volt pontos), de a faji és nemi adatokat nézve már látványosan nagy volt a különbség: az IBM szoftvere például 99,7 százalékos pontossággal ismerte fel a világos bőrszínű férfiakat, de csak 65,3 százalékkal a sötétebb bőrű nőket.
Az amerikai szabványügyi és technológiai hivatal (NIST) kutatása 2019 decemberében megállapította, hogy „empirikus bizonyíték van demográfiai alapon változó pontosságra a jelenlegi arcfelismerő algoritmusok többségénél.” A hivatal azonban nem vizsgálta az Amazon bűnüldözési szerveknek is árult szoftverét, a Rekognitiont, amely hatékonyságát egy 2018-as kutatás fedte fel: az algoritmus 25 ezer bűnügyi nyilvántartási fotó elemzése során az amerikai kongresszus 28 politikusát is felfedezni vélte az arcok között.
Az óriási adathalmazokból dolgozó cégeket már több alkalommal támadták jogi úton is. A bűnüldözési szerveket szintén kiszolgáló, szélsőjobboldali körökhöz is köthető Clearview AI-ról ez év elején derült ki, hogy 3 milliárd fotót szedtek össze az internetről, beleértve több közösségi oldalt is, ezért többek között a Twitter, a Google és a Facebook is felszólította az adatok törlésére és a jogsértő magatartás abbahagyására.
A Facebooknak egyébként szintén az év elején kellett 550 millió dolláros kártérítést fizetnie a céget az arcfelismerő technológiája miatt perlő felhasználóknak.
