Nemcsak olvassa, formálja is a jövődet a megfigyelő kapitalizmus

Vágási Feri a Szomszédokból még tízezer forintért vette meg az eredeti Microsoft Windows 95 operációs rendszert. A Google nem kér pénzt az Android mobil operációs rendszerért, de nem szívjóságból adják ingyen: nekik ez egy platform ahhoz, hogy a felhasználói adatokat forintosítsák. Az online keresési szokásainkat, a Gmail-fiókunk tartalmát, a YouTube-os lejátszási listáinkat, sőt az egérmutatónk mozgását is éber algoritmusok figyelik évek óta. Mostanra jobban kiismertek minket, mint mi saját magunkat.

A megfigyelő kapitalizmus (survaillance capitalism) fogalmát általában a Facebookkal társítják, pedig ez a paradigmaváltásnak is nevezhető üzleti modell a Google nevéhez fűződik. Shoshana Zuboff, a Harvard Egyetem professzora, a The Age of Survaillance Capitalism című könyv szerzője szerint a megfigyelő kapitalizmus ingyenes nyersanyagként használja az emberi tapasztalatokat, hogy a begyűjtött adatokat egyoldalúan, a felhasználó engedélye nélkül viselkedési adatokká (behavioral data) alakítsa.

Bár ezek az adatok a felhasználói élmény javítására is használhatók, a mellékesen képződő adatok ennél jóval értékesebbek: a felhasználó profil megalkotásával az algoritmusok kiismerhetik a viselkedésünket, és a böngészési előzményeink és az online viselkedésünknek megfelelő, személyre szabott hirdetési ajánlatokkal és keresési találatokkal bombázhatnak.

A digitális adat alkímiája: szemétből milliárdok

A Google eredetileg nem akarta pénzzé tenni az online viselkedési adatainkat, de a keresőmotorjuk üzemeltetése amúgy is hatalmas számítási teljesítményt, az adattudományban jártas szakembereket, fejlett algoritmusok használatát és automatizált platformok üzemeltetését követelte meg. Az infrastruktúra adott volt, így a befektetői nyomás hatására a Google – a kezdeti hezitálás után – úgy döntött, hogy mégis belép a reklámpiacra. De nem klasszikus hirdetőként, hanem a korábban értéktelennek tartott felhasználói adatok pénzzé tételével.

Hogy ez mennyire volt jó ötlet, azt jól illusztrálja, hogy 2001 és 2004, vagyis az új üzleti modell és a Google tőzsdei bevezetése között a vállalat bevétele 3590 százalékkal nőtt. Mindezt azáltal érték el, hogy mindenki másnál jobban ismerték a felhasználóikat. Egy kifinomult algoritmus ezerszer hatékonyabban juttathat célba egy személyre szabott hirdetést, mint a világ legjobb reklámszakemberei. Ehhez persze megfelelő analitikai módszerekre volt szükség:

• A kognitív elemzés intelligens technológiákkal dolgozza fel a rendelkezésre álló adatokat, hogy kinyerhessék az üzleti hírszerzésben (business intelligence) használható információkat. Ehhez emberszerű gépi intelligenciát használnak, ami nemcsak szavakat ért meg, hanem a szöveg kontextusát, sőt akár objektumokat is felismerhet egy-egy képen.
• A viselkedési elemzés a felhasználói szokásokat elemzi. Az algoritmusok felismerik a felhasználók online viselkedését, így a keresési előzmények és a kattintások alapján olyan termékeket és szolgáltatásokat kínálhatnak, amire szükségük van. Az elektronikus vásárlási szokásaink, a közösségi médiában adott reakcióink és a webböngészési előzmények látszólag összefüggéstelen adathalmazt generálnak, de a mintafelismerésre képes algoritmusok ebből összerakhatják a felhasználó profilját, és kísérletet tehetnek a felhasználói szokások megjósolására.
• A clickstream elemzés az egérhasználatot figyeli: elemzi, hogy a felhasználó mire kattint, mit talál érdekesnek, és hogy viselkedik az online felületeken.
• Az összehasonlító elemzés a bigdata-alapú analízis egyik legfontosabb eszköze. Az ehhez használt algoritmusok statisztikai módszerekkel – például filterezéssel, döntésifa-elemzéssel vagy mintafelismeréssel – végeznek összehasonlító elemzést. Ezt nemcsak az online hirdetési piacon használják, hanem az egészségügyben is – például arra, hogy orvosi leletek tömeges összevetésével segítsék elő a pontosabb diagnózist.
• A kapcsolatelemzés olyan kapcsolati hálókat vizsgál, amik összekötik a felhasználókat az internethasználati szokásaikkal, a vásárlási és böngészési szokásaik közti összefüggésekkel, vagy az influencerekhez fűződő viszonyukkal. Gyakorlatilag arra használják, hogy feltérképezzék az emberek, termékek, csoportok, rendszerek összefüggéseit egy-egy hálózaton belül.
• Az érzelmi elemzés kísérletet tesz a felhasználók véleményének, érzéseinek, reakcióinak és döntéseinek nyomon követésére. Egy lájk a Facebookon, egy felmérés kitöltése, egy ügyfélszolgálat felkeresése mind ilyen reakciók; ha mindezt kombinálják a szövegelemzési módszerekkel és a természetes nyelvfeldolgozással (natural language processing), felmérhetővé válik, hogy az egyes felhasználók hogyan viszonyulnak bizonyos termékekhez, eseményekhez, személyekhez vagy szolgáltatásokhoz.

Az adatokban rejlik a jövőnk

Szívszorító, ahogy az új Westworld-évad egyik epizódjában az egyik szereplő az óceán partján állva közli a másikkal, hogy „ez az a hely, ahol öngyilkos leszel”. A másik hinni sem akar a fülének, de rövidesen egy elsőre hihetetlen, valójában viszont nagyon is logikus magyarázatot kap: egy prediktív algoritmus elkészítette a pszichológiai profilját, és az élete korábbi eseményeit figyelembe véve megállapította, hogy nagy a valószínűsége, hogy a szereplő a tengerbe öli magát.

A prediktív algoritmus nem légből kapott ötlet; valóban létező technológiáról van szó. A big data és a mesterségesintelligencia-kutatás határmezsgyéjén található eljárás lényege, hogy a korábban begyűjtött, hatalmas mennyiségű adatban egy algoritmus (egy mély/gépi tanulásra képes mesterséges intelligencia) ismétlődő mintákat fedez föl, és ennek alapján a jövőre vonatkoztatható következtetéseket hoz. És nem túlzás, hogy ezzel az öngyilkos hajlamok is feltérképezhetők: a Facebook is használ ilyen algoritmusokat a felhasználói hangulatának feltérképezéséhez, hogy szükség esetén segítséget nyújtasson.

A prediktív algoritmusokat számos más területen is használják, például a forgalomirányításban. Ilyenkor a korábban begyűjtött, úgynevezett historikus adatokat használják a tanulásra képes algoritmus betanításához, majd összevetik ezeket a valós időben érkező adatokkal. A historikus adatokban felismert minták alapján a forgalomirányító rendszer megállapíthatja, hogy mikor és milyen körülmények között alakultak ki bizonyos forgalmi események – dugók, útlezárások, torlódások, balesetek –, és a friss adatok alapján azt is megjósolhatják, hogy hol várhatók ilyen események. Ez nem sci-fi; ez a technológia már ma is elérhető bárkinek, aki meg tudja fizetni.

Nemcsak olvassák, formálják is a jövődet

De a legnagyobb árat a felhasználó fizeti. A felhasználó, aki ezen a ponton megkérdezhetné: nekem mi a rossz abban, hogy személyre szabott ajánlatokat kapok, és ingyen használhatok egy szolgáltatást, számomra értéktelen adatokért cserébe?

A válasz: az, hogy az adatokkal dolgozó algoritmusok nemcsak felismerik, hanem formálják is a viselkedésünket. Az algoritmusok az online viselkedésünk alapján rangsorolják a Google keresési találatait, a közösségi média hírfolyamát, és az online vásárlási ajánlatokat. Ez a metódus önmagában garantálhatja, hogy véleménybuborékba kerüljünk, és kisebb eséllyel ismerjünk meg más választási lehetőségeket – Shoshana Zuboff szerint ez nem a módszer mellékhatása, hanem a célja. Ezeket a folyamatokat úgy tervezték meg, hogy csökkentsék az önállóságot, és bizonyos fajta viselkedésre késztessék a felhasználót. Hogy a megfigyelő kapitalizmus üzleti modelljét alkalmazó vállalatok részéről ez tudatosan alkalmazott üzleti modell, azt jól illusztrálja a Pokémon Go videójáték, ami a gamifikáció eszközeivel befolyásolta a felhasználók viselkedését, vagy a Facebook és a Cambridge Analytica adatvédelmi botránya.

Az átlagfelhasználók talán csak akkor fogják megérteni mindennek a jelentőségét, ha az adataik rossz kezekbe kerülnek – márpedig erre jó esély van. Az új Westworld-évad nyitóepizódjában egy banda a vezeték nélküli és IoT eszközök összezavarásával tereli el a civilek figyelmét egy ATM felrobbantásáról és kirablásáról – és ez a trükk nem is tűnik elképzelhetetlennek. Ahol ugyanis adatátvitel történik, ott az alkalmazott kommunikációs protokollok (IPv4/IPv6, Bluetooth, wifi, TR-069, JSON-LD, IoTivity stb.) meghekkelésére is lehetőség van. Bár ezeknek a protokolloknak megvannak a maguk biztonsági szabványai, nem lehetetlen kijátszani őket. És minél elterjedtebbé válnak az ilyen eszközök, annál több lehetőség lesz a velük való visszaélésre is.

Az IoT eszközök ugyanis adatbiztonsági szempontból időzített bombák – legalábbis ezt állítják a Palo Alto Networks Unit 42 kutatói. Egy nemrég közzétett jelentésük szerint a csatlakoztatott eszközök fundamentális adatbiztonsági problémákkal küszködnek, és ez nemcsak a szórakoztatóipari és vállalati eszközöket, hanem az orvosi berendezéseket is érinti. A kutatók felmérése azt mutatja, hogy az IoT eszközök adatforgalmának 98 százaléka titkosítatlan csatornákon zajlik, így személyes és bizalmas adatokat oszthatnak meg a hálózaton. Az pedig, hogy ezek az eszközök gyakran elavult protokollokat és operációs rendszereket használnak, olyan kihívások elé állíthatja az informatikai szakértőket, amilyenekkel évek óta nem kellett szembenézniük.

De egy pillanatig se gondoljuk, hogy ez visszafogná az IoT eszközök elterjedését. A Gartner tanácsadó- és elemzőcég előrejelzése szerint 2020-ra a csatlakoztatott és IoT eszközök száma a húszmilliárdot is meghaladhatja. Gyakorlatilag minden eszköz ebbe a kategóriába sorolható, amiben van valamilyen szenzor, illetve képes adatok küldésére és fogadására. Okosórák, viselhető eszközök, vezeték nélküli fül- és fejhallgatók, telefonok – minden játszik.

Az IoT eszközök gyors elterjedését a megnövekedett adatforgalmat kiszolgáló 5G mobilhálózatok is elő fogják segíteni, de a vonzerejük elsősorban abban rejlik, hogy ezek a kütyük egyre inkább emlékeztetnek a mindennapos használati tárgyakra. Kézenfekvő példák a mindenféle szolgáltatással telezsúfolt okosórák és egészségügyi/fitnesz karkötők, de már léteznek érintésérzékeny, hűthető farmernadrágok, Bluetooth-kompatibilis navigátoros cipők, vagy például a Google Glass, amiből ugyan soha nem lett széles körben forgalmazott termék, de a többi felsorolt tárgyhoz hasonlóan jól illusztrálja, hogy ma már a leghétköznapibbnak tűnő tárgyakba is kerülhetnek szenzorok és mikrocsipek.

Ha megnézzük az új Westworld-évad első epizódjait, láthatjuk, hogy a szereplők magától értetődő természetességgel használnak okosszemüvegeket és okoskontaktlencséket. Az előbbi, ha fapados formában is, de létező technológia, az utóbbi pedig már fejlesztés alatt áll: a Mojo Vision célkitűzése, hogy láthatatlan, nem invazív okoskontaktlencsét fejlesszen. Noha a bevezetésére csak néhány év múlva kerülhet sor, attól még tény marad, hogy ezek az eszközök nem egy sci-fi szerző fantáziájának szüleményei, hanem egy nagyon is reális terv részei.

Bár ezek a kütyük sok esetben megkönnyíthetik egy átlagfelhasználó életét, a használatuk közben rengeteg adat termelődik. Az átlagfelhasználó az utolsó ember, aki belegondol abba, hogy mit kezdenek ezekkel az adatokkal – holott ezeket az ő beleegyezésükkel és hozzájárulásukkal használják föl. Fel sem mérik, hogy ezek az adatok mennyire személyesek lehetnek, sem azt, hogy a megfelelő kezekben ezek az adatok mekkora értéket képviselhetnek.

Az adattudomány mint paradigmaváltás

Hogy ezek a folyamatok milyen mértékben fogják megváltoztatni az életünket, azt senki sem tudja pontosan megmondani. Hiába van könyvtárnyi szakirodalma a megfigyelő kapitalizmusnak és az adattudománynak, a hosszú távú hatásokat lehetetlen megjósolni. Egyrészt azért, mert ez a terület túl komplex ahhoz, hogy egyetlen ember átláthassa, részben pedig azért, mert az ilyen változásoknak a következményei gyakran csak évtizedes, sőt évszázados távlatokban mutatkoznak meg. A 16. században még senki sem tudta, hogy a könyvnyomtatás feltalálásának mekkora hatása lesz az emberiségre. Azóta tudjuk, hogy a könyvnyomtatás elterjedése aláaknázta a katolikus egyház egyeduralmát, sosem látott szakmákat és iparágakat teremtett, megalapozta a modern tudományt, sőt az agyunk működését is megváltoztatta.

Nem biztos, hogy a megfigyelő kapitalizmus alapvetően rossz dolog. Yuval Noah Harari Homo Deus című könyvében felteszi a filozófiai kérdést: biztosan rossz dolog az algoritmusokra támaszkodni a szabad akarat ellenében, ha azok jobban ismernek minket, mint mi saját magunkat? Ha a Google keresési találatai segíthetnek megjósolni a járványokat, a közlekedési szenzorokból begyűjtött adatok optimalizálhatják a közlekedést, és a modern adatfeldolgozó rendszerek sokkal több szempont alapján mérlegelhetnek, mint egy politikai döntéshozó testület, miért ne bízzunk inkább bennük?

Shoshana Zuboff szerint a helyzet nem ilyen egyszerű. A megfigyelő kapitalizmus máshogy teremt értéket, mint a hagyományos termelés. Mivel alapvetően big data adatforrásokkal és adatelemző rendszerekkel dolgoznak, a megfigyelő kapitalista vállalatok jóval kevesebb embert foglalkoztatnak, mint egy termékeket készítő cég: a General Motors a nagy gazdasági világválság idején jóval több embert foglalkoztatott, mint a Google és a Facebook a piaci kapitalizációjuk csúcsán. Azt pedig lehetetlen megmondani, hogy mekkora árat kell fizetnünk azért, hogy feláldozzuk a szabad választási lehetőség, az egyéni döntések és az autonómia jogát, és adatfolyammá váljunk. Zuboff szerint ez nemcsak antidemokratikus, hanem egyenesen zsarnoki rendszer, ami az embereken élősködik, de nem értük működik, és amit paradox módon személyre szabásnak nevezünk – holott éppen azt a személyességet tiporja sárba, aminek az egyén lenne az alapja.

(A hasonló témákat boncolgató Westworld március 16-tól látható az HBO GO-n és az HBO műsorán. A cikk megjelenését az HBO támogatta.)