NSA-botrány kicsiben: évek óta titokban figyelik New Orleans lakóit a Palantir technológiájával

Filantróp együttműködésnek álcázva 2012 óta figyelik a New Orleans-i lakosokat, bűnügyi előrejelzés (predictive policing) céljából. A louisianai város és a big datában utazó Palantir Technologies között a közbeszerzési eljárást megkerülve jött létre a megegyezés, amelyről a város részéről egyedül a polgármester, Mitch Landrieu és néhány bizalmasa tudott.

A Verge oknyomozása szerint a Palantir a New Orleans városát 2010 óta vezető demokrata polgármester által létrehozott, az erőszakos bűncselekmények visszaszorításáért küzdő NOLA For Life programmal kötött megállapodást, amit 2012 óta már háromszor meg is újítottak. A város polgármester-centrikus önkormányzati modelljének és a szerződés szerinti jótékony adatmegosztás természetének köszönhetően közbeszerzésre sem volt szükség, így a nyilvánosságot is elkerülhette a projekt, ami az In-Q-Tel (a CIA kockázatitőke-ága) és a máig legnagyobb részvényes cégvezető, Peter Thiel pénzéből alapított Palantir nevéhez fűződik.

Olyannyira fű alatt kötötték a szerződést, hogy a Verge által megkérdezett városvezetők és ügyvédek arról sem hallottak, hogy egyáltalán bármilyen kapcsolat lenne a Palantir és New Orleans között, és még a megegyezést tető alá hozó stratéga, James Carville is azt mondta: „tudtommal New Orleans-ban senki sem tud erről”.

NSA-botrány, kicsiben

Ha a Philip K. Dick-féle Különvélemény precogjainál valamivel kézzelfoghatóbb dologról is van szó, a bűnügyi előrejelzés még rendőrségi körökben is vitatott technológia az egyéneket elemző folyamat során felmerülő szabadságjogi aggályok miatt. A Verge-nek névtelenül nyilatkozó, a Palantir tevékenységét első kézből ismerő korábbi bűnüldözési tisztviselő szerint „a Palantir remek példája annak, hogyan lehet nevetségesen sok pénzt költeni egy olyan technikára, aminek ugyan van haszna, de nem megfelelő eszköz a helyi és az állami bűnüldözés számára. Célpontlistát vezetnek, pedig nem az al-Kaidának megyünk neki Szíriában.”

„Számomra ez erkölcsi kérdés volt. Fiatalok lőtték agyon egymást, és a közösség nem tett ez ellen annyit, amennyit tehetett volna” – mondta a Palantir fizetett tanácsadójaként is tevékenykedő, Clinton-kampányairól ismert James Carville, aki ugyancsak politikai tanácsadással foglalkozó feleségével, Mary Matalinnel szervezte meg a cég és a polgármester találkozóját. Carville 2014-ben egy rádióinterjúban azt mondta, a Palantir elnöke, Alex Karp kereste meg őt azzal, hogy valami jótékonyat csinálnának, ő pedig erre javasolta, hogy kezdeni kéne valamit New Orleans rettenetes bűnözési mutatóival. „Afféle prototípusok vagyunk. Ha nem vagy egy rossz útra tért drogdíler unokatestvére, rendben leszel” – tette hozzá Matalin, nem rejtegetve, hogy a bűnjósló projekt ártatlanokat is képes magával sodorni.

Végül 2012. február 23-án írták alá a filantróp megállapodást, amely két évre biztosított New Orleans számára ingyenes hozzáférést a Palantir egyébként évi több millió dollárba kerülő szolgáltatásához. A város cserébe elérhetővé tette a cég számára a teljes bűnügyi nyilvántartását, valamint bírósági dokumentumok, koncessziók, címek, telefonszámok és közösségimédia-adatok millióit. Erről már nem tájékoztatták sem a városi tanács ezen adatok felügyeletéért is fizetett tagjait, sem New Orleans polgárait.

„Ez szinte olyan, mintha New Orleans a saját NSA-jét hozta volna létre, hogy éjjel-nappal megfigyelje a lakosait. Az emberek még a traffipax miatt is ki vannak akadva, és nem tudják, hogy egy ilyen adatbányász projekt is zajlik” – mondta az oldalnak Jim Craig, egy louisianai emberi jogi iroda igazgatója. Courtney Bowman, a Palantir polgárjogi specialistája 2016 májusában egy egyetemi konferencián beszélt arról, hogy ilyen projektek csak akkor működnek, ha a közösség tagjai tudnak arról, hogy az információkat hogyan használják fel”.

A Verge átfogó kutatása szerint Landrieu polgármesteri hivatalán, a városi ügyészen és a New Orleans-i rendőrségen kívül senki sem tudott a bűnügyi előrejelző projekt létezéséről.

Mindenkiről tudtak mindent, mégsem történt javulás

A Palantir rendszere a szociológiában és a hírszerzésben is használt kapcsolatháló-elemzés módszerét alkalmazva kötött össze minden elérhető adatot (embereket, helyszíneket, eseményeket, vásárlásokat, fegyvereket, címeket, telefonszámokat, Facebook-posztokat, rendszámokat stb.), majd ezeket kereshetővé téve könnyítette meg a New Orleans-i rendőrségi elemzők dolgát, hogy megállapítsák, ki milyen eséllyel válik áldozattá vagy követ el erőszakos bűncselekményt.

A közösségi médiából kinyert adatok mellett a cég előtt nyitott volt minden létező rendőrségi feljegyzés: bűnügyi nyilvántartás, ballisztikai dokumentumok, bűnszervezetekről gyűjtött információk, a börtönbeli telefonbeszélgetések, a rendőrségre beérkezett telefonhívások és minden olyan irat, ami rendőrök és polgárok között zajlott, a szemtanúk vallomásaitól kezdve a büntetőeljárást nem eredményező feljelentésekig.

A potenciális bűnözők listáját felhasználták a város CeaseFire nevű programjában is, ahol régi taktikát bevetve környékezték meg a bűnügyi múlttal rendelkező személyeket: figyelmeztették őket, hogy amennyiben újabb bűncselekményt követnek el, a lehető legmagasabb büntetést kapják, de ha hajlandóak együttműködni a rendőrséggel, akkor képzést, oktatást, egészségügyi szolgáltatásokat kaphatnak. A program elemzése során azonban kiderült, az érintett városrészekben mégsem esett vissza jelentősen az erőszakos bűncselekmények száma, az együttműködők közül pedig összesen heten végeztek el szakképzést, harmincketten álltak munkába, iskolát viszont senki nem fejezett be a programban.

Az előítéletes algoritmus

A Palantir már korábban is részt vett előrejelzésen alapuló programokban, a Pentagonnal együttműködve például 2009-től Irakban és Afganisztánban kerestek házilag gyártott robbanóeszközöket a cég technológiáját használva. Háborús helyzetben azonban nyilvánvalóan más aggályok merülnek fel a polgári szabadságjogokat illetően, mint egy helyi rendőrségi adatbányászatnál. A nyilvánosan elérhető adatok szerint a 2012-es New Orleans-i program volt az első, amikor a cég a bűnügyi előrejelzés területére merészkedett.

Az amerikai igazságügyi minisztérium kutatási intézete által 2009 óta támogatott bűnügyi előrejelző projekteket először Chicagóban és Los Angelesben vetették be, aztán sorra alakultak az erre felhúzott startupok. Az egyik legnagyobbra nőtt rendszer a PredPol, amelynek algoritmusát egy 2016-os tanulmányban fejtették vissza a Michigan State University és a Human Rights Data Analysis Group kutatói. Arra jutottak, hogy ezek a szoftverek csak a meglévő rendőri előítéleteket algoritmizálják és nagyítják fel, amivel ráadásul az emberi tényező is kikerül a képletből – eddig ugyanis legalább felelősségre vonható rendőrfőnökök hozták meg a döntéseket, most pedig kifinomult, ezért legitimnek tűnő szoftverekre foghatják az előítéleteken is alapuló rendőrségi munkát.

Az ilyen szoftverek működését talán a Washington Post mutatta be a legérthetőbben 2016 novemberében: a PredPol minden műszak elején generál egy előrejelzést, amit egy Google-térképen megjelölt, nagyjából 50 négyzetméteres területeket lefedő piros négyzetek formájában kell elképzelni – a szoftver szerint ezeken a területeken várható leginkább valamilyen bűncselekmény. „Nem mindig kapunk el valakit ezeken a környékeken, de már azzal megelőzzük a bűncselekményeket, hogy ott vagyunk” – mutatott rá a lapnak a PredPol elrettentő hatására Elaine Morales, a Los Angeles-i rendőrség századosa.

„A bűnügyi minták megközelítésének legjobb módja, ha a földrengésekre gondolunk” – állítja Jeffrey Brantingham, a Kaliforniai Egyetem antropológiaprofesszora, egyben a PredPol társalapítója. És ezt szó szerint kell érteni, a céget ugyanis erre az analógiára építették: ahogy a földrengések törésvonalak mentén alakulnak ki, úgy a bűncselekményeket is bizonyos környezeti struktúrák (iskolák, parkolók, kocsmák) formálják, és ezeken a területeken az utórengések mintájára a későbbi esetek is valószínűbbek.

A PredPol használatát bevezető parancsnok és a rendőrök személyes tapasztalataikra hivatkozva egyértelműen a szoftvernek tulajdonítják, hogy 2012 és 2014 között 7 százalékkal csökkent a vagyon elleni bűncselekmények száma (ezt az Amerikai Statisztikai Szövetség folyóiratában megjelent tanulmányukban is részletezik), de a hivatalos statisztikák szerint egész Kaliforniában 10 százalékos visszaesést mértek a két év alatt, miközben a bűnügyi előrejelző szoftvereket csak néhány város néhány körzetében használtak.

A chicagói 22-es csapdája

Chicagóban még ellentmondásosabb a helyzet. A helyi rendőrség 2012-től alkalmazza a Stratégiai Alanylistát (SSL) azoknak a chicagói lakosoknak a lajstromozására, akik leginkább esélyesek arra, hogy erőszakos bűncselekménybe keveredjenek – akár elkövetőként, akár áldozatként. Az algoritmus többek közt a bandatagságot és a bűnügyi hátteret veszi alapul, de az ítélettel zárult ügyek mellett egyszerű letartóztatással is fel lehet kerülni a listára, ami egyfelől több ártatlan személyt is a megfigyeltek közé kever, másrészt ördögi körbe is kergeti magát a rendszer, ha a magas letartóztatási aránnyal rendelkező területekre vezeti a rendőröket, akik ott még több embert vesznek őrizetbe – és így tovább.

A rendőrség hangsúlyozza, a listát elsősorban arra használják, hogy a bűnözésre hajlamosnak ítélt személyek, illetve a potenciális áldozatok számára időben segítséget nyújtsanak szociális intézményeken keresztül, de a számok azt mutatják, hogy megelőző hatása csak a legritkább esetben van a rendszernek. 2016-ban például 1024 figyelmeztetési kísérletből 558 ért célba, ebből összesen 26 ember vette igénybe a rendőrség és a szociális munkások segítségét, ehhez képest csak fél év alatt 280 embert tartóztattak le az SSL használatával – a pontos számok nem ismertek, az átláthatóság hiányát állandóan számon is kérik a chicagói rendőrségen.

A RAND Corporation nevű független kutatóintézet 2013 és 2016 között vizsgálhatta a chicagói program működését, a ciklus végén született tanulmány szerint azonban „a listán szereplő személyek sem nagyobb, sem kisebb eséllyel nem válnak gyilkosság vagy fegyveres bűncselekmény áldozatává”, viszont a potenciális bűnözőket nagyobb eséllyel tartóztatják le az SSL miatt. Így bűnmegelőzés helyett legfeljebb az utólagos intézkedéseknek kedvez a lista, és az érintett személyek általában már az algoritmusok segítsége nélkül is ismertek a rendőrség előtt.