A Facebook jól tudja, milyen károkat okoz a társadalomban, de a profit fontosabb

Nincsen jövőnk tudomány nélkül, nincsen Qubit nélkületek. Támogasd a munkánkat!

Magyar idő szerint hétfő délután mintegy hat órára leállt a Facebook, az Instagram, és világszerte elérhetetlenné váltak egyéb szolgáltatások is, amelyeket az elmúlt években az óriáscég a versenytársakat megszüntetendő bekebelezett, így például a Whatsapp. A konfigurációs változtatás okozta leállás a belső rendszereket is érintette, a Facebook közleménye szerint ezért nem tudtak rajta úrrá lenni. A cég részvényárfolyamát is megbillentő, 7 milliárd dolláros leállás nem is jöhetett volna ennél sokatmondóbb időpontban – rögtön az után, hogy egy volt alkalmazott által kiszivárogtatott dokumentumok feketén-fehéren megmutatták: végképp gonosz techcéggé vált a Facebook

A körülbelül 2,85 milliárd aktív felhasználót számláló közösségi hálózat 15 éves története során, de főként az elmúlt néhány évben számos botrányt megélt már. Az adatvédelmi válságok mellett egyre többen vádolják azzal a céget, hogy nem lép fel elég hatékonyan az álhírek, az összeesküvés-elméletek vagy a gyűlöletbeszéd terjedése ellen, hogy választások manipulálását és népcsoportok erőszakos üldözését tette lehetővé, és hogy két legnagyobb platformja (a Facebook és az Instagram) révén hozzájárult a fiatalok képernyőfüggéséhez, testképzavarához és növekvő depressziójához.

Azok a vádak azonban, amelyek az elmúlt egy hónapban érték a Facebookot, még ebben a botrányokkal terhelt cégtörténetben is páratlanok. A Wall Street Journalnek (WSJ) kiszivárogtatott belső dokumentumokból egyebek mellett kiderült, hogy a Facebook

  • egy befolyásos elit számára lehetővé tette a minden felhasználóra vonatkozó szabályok megkerülését;
  • tisztában van azzal, hogy az Instagram rossz hatással van a kamasz lányok mentális egészségére;
  • tisztában van azzal is, hogy a nagy algoritmusváltással a megosztó és gyűlöletkeltő tartalmak, valamint az álhírek kerültek előtérbe;
  • nem tesz meg mindent a drogkartellek és az embercsempészek facebookos tevékenysége ellen;
  • a pandémia idején szembesült azzal, hogy képtelen kordában tartani a platformon terjedő hamis információ áradatát;
  • a még fiatalabb korosztályok bekebelezését is tervezi a vállalat további növekedése érdekében.

Míg a WSJ sokáig csak egy korábban a Facebooknál dolgozó névtelen informátorra hivatkozott, a szivárogtató vasárnap este egy tévéműsorban felfedte a kilétét. Frances Haugen a CBS 60 Minutes című hírműsorának adott interjúban elmondta, 2019 júniusától kezdve két évig dolgozott a Facebook Civic Integrity nevű tartalom-ellenőrző csapatában, amelynek elsődleges feladata az volt, hogy felderítse, hogyan használhatják a platformot politikai manipulációra, erőszakra való buzdításra vagy a demokrácia aláásására.

Mint elmondta, az idő múlásával egyre világosabbá vált számára, hogy a cégnek egyetlen átfogó irányelve van: a profit. „Összeférhetetlenség alakult ki aközött, hogy mi szolgálja a közjót, és mi a Facebook érdekeit, a Facebook pedig újra és újra a saját érdekei mentén, a még nagyobb bevételek érdekében hozott döntéseket” – mondta a szivárogtató, aki kedden az amerikai kongresszus előtt számol be a megszerzett dokumentumok tartalmáról és a Facebooknál töltött két év egyéb tapasztalatairól.

Haugen az interjúban elmondta, hogy az a több ezer tanulmány, jegyzet és prezentáció, amelyekhez a Facebook belső rendszereiben jutott hozzá, egyértelműen mutatja, hogy a cég hazudik, amikor azt kommunikálja a nyilvánosság felé, hogy sikeresen veszi fel a harcot a gyűlölet, az erőszak és az álhírek ellen. „Az a Facebook, amit ma látunk, szétszakítja a társadalmakat, és etnikai alapú erőszakot szít szerte a világon” – mondta Haugen, aki korábban a Google-nél és a Pinterestnél is dolgozott.

Azt is hozzátette, hogy munkatársait és feletteseit ismerve magabiztosan állíthatja: a cégnél nem gonosz emberek dolgoznak, és Mark Zuckerbergnek sem az volt a mesterterve, hogy gyűlöletplatformot hozzon létre, viszont a vállalat idővel akkorára nőtt, hogy a vezetők döntéseinek egyre súlyosabb társadalmi hatásai lettek.

A Facebook például szerinte a 2020-as választások idején megmutatta, hogy képes kezelni a felvetett problémákat, amikor a hírfolyamon szándékosan háttérbe szorította a politikai tartalmakat, de a cég aztán hamar visszatért a korábbi, a minél nagyobb aktivitást (lájkokat, kommenteket, megosztásokat) díjazó algoritmusához – és Haugen szerint ennek a döntésnek szerepe volt a Capitolium január 6-i ostromához vezető eseményekben is. „A Facebook felismerte, hogy ha biztonságosabbá teszik az algoritmust, az emberek kevesebb időt töltenek majd az oldalon, így kevesebb hirdetésre kattintanak, vagyis a cég kevesebb bevételhez jut” – mondta.

A Facebook mindenesetre már felkészült a támadásokra. A New York Times pénteken hozzájutott egy belső céges memóhoz, amelyben Nick Clegg, a Facebook globális ügyekért és kommunikációért felelős alelnöke azt írja: „A közösségi média nagy hatással volt a társadalomra az elmúlt években, és gyakran a Facebookon csapódik le ez a vita. A rendelkezésre álló bizonyítékok azonban nem támasztják alá azt, hogy a Facebook vagy általában a közösségi média lenne a megosztottság elsődleges oka.” Clegg arra figyelmezteti az alkalmazottakat, hogy az elkövetkező időszakban több kérdésre számíthatnak a barátoktól és a családtagoktól a Facebook társadalmi szerepével kapcsolatban, de őket is meg kell nyugtatni, hogy a politikai megosztottság már a közösségi oldalak megjelenése előtt is jelen volt a társadalomban.

„Nem azt tesszük a valóságban, amit nyilvánosan állítunk”

A Facebook-akták (The Facebook Files) című cikksorozat első részében a WSJ arról a titkos rendszerről rántotta le a leplet, amely különleges bánásmódban részesít egy a Facebookon belül létező elitet. Az XCheck nevű rendszer egyes hírességek, politikusok és újságírók számára biztosít olyan jogokat, amelyekkel megkerülhetik a platform szabályait, így például a bejegyzések tartalmát sem korlátozzák az esetükben. 

Példaként a brazil válogatott focista, Neymar esetét említették meg, aki gond nélkül posztolhatott meztelen fotókat arról a nőről, aki nemi erőszakkal vádolta a sportolót. Neymar 2019-ben tett közzé a Facebookon és az Instagramon olyan videókat, amelyekben az őt vádoló nővel folytatott WhatsApp-beszélgetések tartalma látható, benne az illető pucér képeivel. A Facebook szabályzata szerint a beleegyezés nélküli intim fotók közzététele a bejegyzés azonnali törlését vonja maga után, ám a moderátorok Neymar XCheck-listán való szereplése miatt csak napokkal később tudták törölni a posztokat. A törlés előtt így 56 millióan nézték meg a két platformon a tartalmakat, amelyeket egy belső vizsgálat bosszúpornónak nevezett.

A kiszivárgott dokumentumok szerint az XCheck-listára olyan személyek kerülhetnek fel, akik bizonyos kritériumok szerint hírértékűnek, befolyásosnak vagy PR szempontból kockázatosnak minősülnek. A listán Neymar mellett többek között a Trump család számos tagja, Elizabeth Warren demokrata szenátor, Mark Zuckerberg, Candace Owens amerikai konzervatív médiaszemélyiség, valamint a Doug the Pug nevű mopsz oldala is szerepelt – 2020-ban összesen 5,8 millió profil élvezte a különleges jogokat.

Míg a legtöbb esetben a listán való szereplés a moderálás késleltetését jelentette, a belső dokumentumok a „whitelisting” nevű gyakorlatról is beszámoltak, amely szerint néhány VIP profil korlátlanul posztolhatott bármit, és a tartalom-ellenőröknek nem volt hatalmuk az ő bejegyzéseik felett. Ez a gyakorlat egy belső vizsgálat szerint „számos jogi, teljesítési és legitimitási kockázattal jár, és árt a közösségünknek”. A jelentésben megjegyezték: „Nem azt tesszük a valóságban, amit nyilvánosan állítunk. A közösségünk többi tagjával szemben ezek az emberek következmények nélkül sérthetik meg a szabályainkat.”

„Minden harmadik kamasz lánynál rontjuk a fennálló testképzavaraikat”

A legnagyobb vihart talán a cikksorozat következő része kavarta, amelyből kiderült: a Facebook tisztában volt vele, hogy az Instagram használata testképzavarokat okozhat a kamasz lányoknál, de legalább két éven át visszatartotta az erről szóló kutatásokat. A kiszivárgott dokumentumok szerint a cég munkatársai legalább 2019 óta végeztek kutatásokat arra vonatkozóan, hogy a közösségi média milyen hatással van a fiatalok mentális egészségére, és az egyes tanulmányok rendre arra jutottak, hogy a különböző platformok, de közülük is leginkább az Instagram káros hatásokkal járhat, különösen a tizenéves lányok körében.

Három különböző kutatás a következő megállapításokra jutott:

  • „Minden harmadik kamasz lánynál rontjuk a fennálló testképzavaraikat.”
  • „A tizenéves lányok 32 százaléka azt mondta, hogy amikor rossz érzéseik voltak a testükkel kapcsolatban, az Instagram hatására még rosszabbul érezték magukat.”
  • „A kamasz lányok az Instagramot hibáztatják a szorongásaik és depressziójuk miatt. Ez a reakció minden csoportban következetesen megjelent.”

A vizsgálati eredményeken túl mindez azért is vet különösen rossz fényt a Facebookra, mert a cég vezetői a nyilvánosság előtt korábban többször is elbagatellizálták a közösségi média fiatalokra gyakorolt káros hatásait. Mark Zuckerberg márciusban egy kongresszusi meghallgatáson konkrétan azt állította, hogy belső kutatásaik alapján a közösségi médiának inkább pozitív hatásai lehetnek a mentális egészségre, míg Adam Mosseri, az Instagram vezetője májusban azt nyilatkozta, hogy a kutatások szerint az Instagram hatása a kamaszok mentális egészségére valószínűleg „meglehetősen kicsi”.

A cikk hatására az Instagram bejelentette, hogy felfüggeszti a 10-12 éveseknek szánt Instagram Kids fejlesztését, de közben alaptalan támadásnak is nevezte az írást, az idézett kutatások kis mintájára és megkérdőjelezhető módszertanára hivatkozva. Antigone Davist, a Facebook biztonságért felelős globális vezetőjét Instagram-ügyben csütörtökön egy kongresszusi meghallgatáson vonták felelősségre, ahol Edward Markey demokrata szenátor egyenesen a dohányiparhoz hasonlította az appot: „Az Instagram az a bizonyos első gyerekkori cigaretta, amivel a kamaszokat korán függővé akarják tenni” – mondta.

Az algoritmus, ami tovább züllesztette a közbeszédet

A Facebook algoritmusa, amely meghatározza, hogy mit látunk a hírfolyamon, folyamatosan változik. A legnagyobb változtatást azonban 2018-ban eszközölték rajta a fejlesztők: a váltásnak a cég kommunikációja szerint a „jelentőségteljes társas interakciók” erősítése volt a célja, valamint az, hogy közelebb hozza egymáshoz a barátokat és a családtagokat a platformon. Ez technikailag azt jelentette, hogy azok a bejegyzések kerültek előtérbe a hírfolyamon, amiket sokan kommenteltek és lájkoltak.

A cég belső jelentései szerint azonban a lépésnek „egészségtelen mellékhatásai voltak a közösségi tartalmak fontos szeleteire, például a politikai tartalmakra és a hírekre”. A kutatások arra jutottak, hogy míg a közeli ismerősök által megosztott tartalmak valóban jelentőségteljesebbé váltak, az algoritmus által előnyben részesített újraosztott bejegyzések többsége „mértéktelen álinformációt, toxikus és erőszakos tartalmat” foglalt magában, mivel az emberek a megosztó üzenetekre sokkal inkább hajlamosak reagálni, akár komment, akár tovább osztás formájában.

Az Európai Unióból és Indiából több politikai párt jelezte a Facebooknak, hogy az algoritmusváltás miatt negatívabb üzeneteket kellett megfogalmazniuk a posztjaikban, ha továbbra is el akarták érni a követőiket, és ennek eredményeként nemcsak a kommunikációjuk változott, hanem a politikai pozíciójukat is a szélsőségek felé sodorta a folyamat. Egy lengyel párt közösségimédia-csapata például kimutatta, hogy az algoritmus változása után a korábbi fele-fele arányú pozitív-negatív üzenet helyett 80 százalékban negatív hangvételű posztokat osztottak meg. Több párt (még azok is, amelyek belementek a negatív fordulatba) az aggodalmát fejezte ki a közösségi média demokráciára gyakorolt hosszú távú hatásai miatt.

Míg Lars Backstorm, a Facebook mérnöki feladatokért felelős alelnöke azzal hárította a felelősséget, hogy „bármilyen optimalizálás lehetőséget nyújthat arra, hogy kihasználják”, a Wall Street Journal cikke szerint amikor a Facebook kutatói megoldásokat javasoltak a problémára, Mark Zuckerberg nem volt hajlandó fontolóra venni semmit, ami a felhasználói aktivitás csökkenését eredményezte volna.

Drogkartellekre és embercsempészekre már nem jut idő, ha nem az USA-ban vannak

A Facebook dolgozói arra is többször felhívták a figyelmet, hogy egyes fejlődő országokban veszélyes bűncselekmények lebonyolítására használják a platformot, de a vezetőség ezekre vagy jelentéktelen lépésekkel reagált, vagy egyáltalán nem foglalkozott velük. Az iratok szerint mexikói drogkartellek, közel-keleti és észak-afrikai embercsempészek, etióp fegyveres csoportok vagy épp indiai pornóvideók felett hunyt szemet a vállalat.

„Nagyon ritkán van jelentős, koncentrált törekvés arra, hogy ezeken a területeken is megpróbáljunk javulni” – mondta a Facebook korábbi alelnöke, Brian Boland, aki tavalyi felmondásáig az afrikai és az ázsiai internetszolgáltatókkal kiépített partnerségekért felelt a cégnél. Ahogy azt egy kutatás kimutatta, a Facebook új felhasználóinak több mint 90 százaléka az Egyesült Államokon kívülről érkezik, de ennek ellenére a cég alkalmazottjai csak az idejük 13 százalékát töltik az USA-n kívüli illegális vagy hamis információkat közvetítő tartalmak böngészésével, jelentésével és eltávolításával.

„Évek óta tudunk hasonló ügyekről, de a Facebook idáig mindig tudott arra hivatkozni, hogy a távozó alkalmazottak elfogultak a céggel szemben, ezért nem lehet megbízni abban, amit mondanak. Ezúttal viszont a dokumentumok magukért beszélnek” – mondta a Recode-nak Yaël Eisenstat, a Facebook korábbi választási integritásért felelős vezetője, aki hangos kritikusa a vállalatnak, mióta 2018 novemberében távozott a cégtől.

Miközben a Facebook a hírek szerint igyekszik még inkább elhallgattatni az alkalmazottjait, a New York Times szerint egymás között egyre többen fogalmaznak meg kritikákat a céggel szemben, és a korábbi dolgozók is egyre aktívabban szólalnak fel a Facebook ellen különböző felületeken, jellemzően a Twitteren. A Facebooknak dolgozó kutatók a lap szerint megszégyenítve érzik magukat, amiért a vállalat vezetői semmibe vették a munkájukat, főleg, hogy jó techcéghez méltó módon a Facebook is azt hirdeti magáról, hogy kizárólag a világ legjobb mérnökeit és kutatóit alkalmazza. „Szerintem a Facebook nem fogja fel, mennyire vízválasztó ez a pillanat, és nemcsak azért, mert a nyilvánosság elé kerültek a dokumentumok, hanem azért is, mert a saját alkalmazottjaik is kezdenek feldühödni” – tette hozzá Eisenstat.

Jesse Lehrich, az Accountable Tech nevű nonprofit társalapítója a Recode-nak elmondta: „A szivárogtató kendőzetlen és példátlan betekintést nyújtott abba, hogy a Facebook vezetői milyen mértékben hagyták tudatosan figyelmen kívül a termékeik és döntéseik élet-halál kérdéseket érintő következményeit.”

Járvány, klímaváltozás, forradalmak – mindez csak három dermesztő arca annak a felbolydult világnak, ami ránk vár. Lesz még neki jó pár. Ha teheted, segítsd a munkánkat, mi megháláljuk a bizalmadat, és ebben a nagy zavarodottságban hitelesen, alaposan és közérthetően magyarázzuk el, hogy a legégetőbb kérdésekre milyen válaszokat adnak a sárgolyó legnagyobb elméi. Maradj velünk. Támogatom a Qubit szerkesztőségét!

Kapcsolódó cikkek a Qubiten: