Lawrence Lessig Budapesten: Ha nem tudjuk szabályozni az algoritmusokat, ők fognak szabályozni minket

Nincsen jövőnk tudomány nélkül, nincsen Qubit nélkületek. Támogasd a munkánkat!

Lawrence Lessig, a Harvard Egyetem jogászprofesszorának három évtizedes karrierje két nagy témakörben összpontosul – ez a szabad internet és a demokrácia védelme. Hogy ezekért az – egyébként egymástól nem is túl idegen – ügyekért épp nagy hatású előadóként, védőügyvédként, íróként vagy épp elnökjelöltségért induló politikusként igyekszik tenni, azt nála sosem lehet tudni, mindenesetre most pénteken a Nemzeti Közszolgálati Egyetemen megrendezett Society of Internet Platforms konferencián kötötte össze két kedvenc témáját, „Hogyan változtatják meg a demokráciákat a platformok – rossz irányba” című előadásán.

Lessig nemrég csatlakozott a Facebook-szivárogtató Frances Haugen jogi csapatához, stratégiai és kommunikációs tanácsadóként, azzal a céllal, hogy hatékonyan végre tudják hajtani a szivárogtatás célját, vagyis a Facebook és úgy általában az életünket irányító algoritmusok törvényi szabályozását anélkül, hogy bármilyen módon sérülne a szólásszabadság. Az elmúlt hetekben nyilvánosságra került belső dokumentumok szerint a Facebook tisztában van az egyes döntéseinek káros társadalmi hatásaival – legyen szó a kamaszlányok testképének rombolásáról vagy a politikai megosztottság növeléséről –, de ha a felhasználók biztonsága és a profit közül kell dönteni, akkor rendre az utóbbit választja.

A professzor szerint a techcégek ma ugyanazt csinálják, mint a 20. században a gyorsétteremláncok: akkor laboratóriumokban fejlesztették ki a tudományosan tökéletes ízeket, amelyek függővé teszik az embert, kicselezve a túlfogyasztás ellen kidolgozott evolúciós vívmányainkat, míg most az algoritmusokat hangolják arra, hogy az agyunk jutalomközpontját stimulálva minél több időt töltsünk a platformokon, a végtelenségig görgetve a személyre szabott tartalmakat.

Lawrence Lessig az NKE-n megrendezett Society of Internet Platforms konferenciánFotó: Youtube / NKE

Üzleti modellé vált az emberek elbutítása, hiszen a zsigeri reakciók, az agresszív viták generálják a legnagyobb aktivitást, és így a hirdetések megjelenítésén keresztül a legnagyobb profitot is. Ez odáig vezetett, hogy – a Facebook saját adatai szerint – minél több megosztás van egy Facebook-poszton, annál nagyobb az esélye, hogy hamis információkat tartalmaz. A kiterjedt adatgyűjtésből fakadó személyre szabott tartalmak véleménybuborékokat hoznak létre, elmélyítik a társadalmi szakadékokat, így végső soron tovább rombolják a demokráciát.

Mivel a techcégeknek nem érdekük ezen változtatni, felülről kell őket szabályozni, az alkotmányos jogok sárba tiprása nélkül. Erre Lessig egy három pontból álló javaslatcsomagot dolgozott ki. Első lépésben az emberi agy kapacitásához kell igazítani az információáramlást, vagyis lassítani a posztok, így az álhírek és a káros tartalmak terjedését – ezt Lessig szerint például a megosztások számának maximalizálásával lehetne elérni. Ezen felül rá kell bírni a platformokat a rajtuk megjelenő tartalmak iránti nagyobb felelősségvállalásra, valamint úgy kell kezelni az algoritmusokat, mint a gyógyszereket – hogy mielőtt az emberekre eresztik őket, bizonyítani kelljen, hogy nem okoznak károkat.

A szabad internet elnökjelöltje

Az 1961-es születésű Lawrence Lessig a Pennsylvaniai Egyetemen közgazdász és üzleti diplomát szerzett, majd Cambridge-ben filozófiát végzett, végül a Yale-en doktorált jogászként. Két évig ismert jogászok mellett vállalt munkát, majd oktatónak állt, először a Chicagói Egyetemen, később a Harvardon és a Stanford Egyetemen. Olyan bírósági tárgyalások részese volt, mint a hírhedt 1997-es versenyjogi per a Microsoft ellen, aztán az ezredfordulótól az internetes szabadságjogok védelmezése lett a fő témája. A lazább szerzői jogok és a netsemlegesség mellett érvelt a demokratikus internet érdekében, és ezt a célt szolgálta a Creative Commons megalapítása is, amelynek licencei lehetővé teszik a tartalomkészítőknek, hogy jogi értelemben is közkinccsé tegyék a jogvédett műveiket.

A 2010-es évekre már leginkább politikai nyilatkozataival lehetett találkozni, és az amerikai politikai rendszert átható, legális korrupció kutatásával kezdett foglalkozni. Szerinte a közvetlen megvesztegetések tömeges előfordulását már sikeresen megfékezte a fejlett világ, de a lobbisták tevékenységén és a kampányfinanszírozás intézményén keresztül megjelenő, úgynevezett függőségi korrupció legalább annyira veszélyes a demokráciára. Az üzleti érdekeket képviselő lobbistáknak egyébként is óriási a befolyásuk a kongresszusban, de mivel a törvényhozók jelentős része lobbistának áll a politikai karrier után, már előre ki kell építeni a későbbi zsíros állást biztosító kapcsolatokat – ami szintén a korrupció melegágya.

És amikor nem a lobbisták kötik le a figyelmüket, a politikusok a kezdetektől azon dolgoznak, hogy a következő kampányra legyen elég pénz és támogató – Lessig szerint öt munkanapból hármat a kampányfinanszírozás érdekében történő hívásokra, találkozókra fordítanak, így szintén a vállalatok befolyása alatt állnak. 2011-es könyvében (Republic, Lost: How Money Corrupts Congress—and a Plan to Stop It) tovább ekézte az amerikai választási rendszert, lakosságarányos képviseletet követelt a kongresszusban, és felszólalt a gerrymandering, vagyis a választókerületek pártérdekek mentén történő kijelölése ellen is. Ez az egész odáig vezetett, hogy 2015-ben bejelentette, beszáll a demokrata elnökjelöltségért folyó harcba, és azt ígérte, ha megválasztják, átviszi a választási reformot, és le is mond az elnökségről. Ugyan később ezt átgondolta, és a teljes négy évre szóló programot mutatott be, hamar kiesett a versenyből, miután állítása szerint a CNN az utolsó pillanatban változtatott a jelöltvita közvetítésének szabályain, így épp lemaradt a győzelemhez elengedhetetlen tévévita vendéglistájáról.

Lawrence Lessig 2015 szeptemberében, egy demokrata párti gyűlésenFotó: SCOTT EISEN/Getty Images via AFP

Mindezek nemcsak kötelező életrajzi információk, hanem szorosan összefüggnek azzal a harccal, amit most vív Lessig – a Szilícium-völgy demokráciát romboló algoritmusainak az alkotmánnyal kompatibilis szabályozásáért.

Az internet hajnalán hirdetésekről szó sem volt, aztán mindent elrontottak

„Az uralkodó közösségimédia-platformokat a szólásszabadság és a kreativitás színterének tartják. És valóban azok is, ami azt sugallná, hogy az alkotmány értelmében nem lehet őket szabályozni. Ezzel nem értek egyet” – kezdte budapesti beszédét Lessig. A techcégek rettegnek a szabályozástól, ezért a külső beavatkozási kísérleteket a szólásszabadság korlátozásaként igyekeznek beállítani. Persze a platformok távol állnak a demokratikus működéstől, hiszen egyes üzeneteket felhangosítanak, mások terjedését pedig megakadályozzák – hogy pontosan milyen alapon, az nem mindig egyértelmű, hiszen ezt a feladatot nem szabályokat követő emberek, hanem erre fejlesztett algoritmusok végzik. „Mivel a profit vezérli őket, az éri meg nekik a legjobban, hogy a legaddiktívabb, legvirálisabb tartalmakat erősítsék fel, ami a legrosszabbat hozza ki belőlünk” – mondta a jogászprofesszor.

A közösségi platformok üzleti modellje annyi, hogy megragadják az emberek figyelmét, és aztán a lehető legtöbb időre az adott platformon tartsák őket. Ehhez arra van szükségük, hogy minél több információt szerezzenek az egyes felhasználókról, hogy tudják, milyen tartalmakkal lehet leginkább a képernyő elé láncolni őket. Személyre szabott tartalmak, a platformon eltöltött hosszabb idő, több hirdetési bevétel, nagyobb profit. „Hogy megragadják a figyelmünket, a platformok könyörtelenül kihasználják a gyengeségeinket. Megismernek minket, megtanulják, hogyan manipulálhatnak, hogy függővé tegyenek, és sóvárogjunk az újabb tartalmakra.”

A gyorséttermes példájában a Buffalo csirkeszárnyakhoz hasonlította az algoritmusokat: az ételkutatók a só, a cukor és a zsír tökéletes arányának kikísérletezésével alkották meg a függőséget okozó termékeiket, hogy meghekkelje a szervezetünket, az algoritmusok pedig az agyunkat hekkelik meg, és a figyelmünk felkeltését és lekötését leginkább elősegítő megoldásokat alkalmazzák. Bármilyen üzletágról is legyen szó, ha egyszer rájönnek, hogyan játsszák ki a pszichénket, onnantól öngerjesztő folyamat kezdődik. Lessig itt ismét a gyorsétterem-, édesség- és üdítőipar példájához fordult: „Ezek a cégek jól tudják, hogy nem tudunk ellenállni a termékeinknek. De ők sem tudnak ellenállni nekik. Számos példa van arra, hogy amikor rájöttek, hogy gyakorlatilag mérgezik az embereket, a cégvezetők előálltak egy egészségesebb termékkel, legyártották, piacra dobták, de persze az embereknek nem kellett, ezért bezuhantak az eladási mutatók, menekülni kezdtek a részvényesek, kirúgták a vezetőket, és a cégek visszatértek az eredeti recepthez. Máris rá lehetett fogni, hogy a piac hibája. És tényleg az. A piaci verseny garantálja, hogy abból legyen kínálat, amit az emberek a legjobban szeretnének, vagyis ha már rászoktunk az egészségtelenre, azt fogjuk követelni, és így tovább.”

Az online térben a hirdetések miatt lett olyan fontos az agresszív adatgyűjtés és az algoritmusok tökéletesítése. Mark Zuckerberg általában azzal érvel, hogy win-win helyzet áll fenn: a felhasználók ingyen használhatják a szolgáltatásaikat, mindössze az adataikért cserébe, amelyekre viszont szüksége is van a cégnek, hogy jobb hirdetéseket kínáljon, amiből elég bevételhez tud jutni ahhoz, hogy működtetni tudják a szolgáltatásaikat – megint körbeértünk. Lessig ezen a ponton megemlítette, hogy az internet születésekor még szó sem volt hirdetésekről, sőt a két Google-alapító, Larry Page és Sergey Brin 1998-ban még arról értekezett, hogy „egy hirdetésekből fenntartott keresőmotor eredendően részrehajló lesz a hirdetők irányába, háttérbe szorítva a felhasználók szükségleteit.” Végül persze a Google lett az egyik ikonikus cég, amely átvezette a világot a megfigyelési kapitalizmus korszakába. A techcégek idővel olyan technikákat fejlesztettek ki, amelyekkel már nemcsak passzívan megfigyelik a felhasználókat, hanem arra kényszerítik őket, hogy segítsenek nekik megérteni az érdeklődésüket – például lájkokkal vagy a platform egyes részein eltöltött idő mérésével.

Valójában viszont ez elég távol áll a win-win helyzettől. Ha nem is lehet teljes mértékben a Facebookra és az internetre kenni a Capitolium január 6-i ostromát, nélkülük valószínűleg nem történhetett volna meg. Mivel a technológia lényege, hogy függővé tegye a felhasználókat, azt sem lehet váratlan következménynek nevezni, hogy a függőségekre hajlamosaknak különös károkat okoznak ezek a platformok – elég az Instagram és a testképzavaros kamaszlányok által elkövetett öngyilkosságok közötti összefüggésre gondolni. Lessig szerint azt is fontos látni, hogy az ilyen eseményekhez vezető döntéseket nem emberek, nem személyesen Zuckerberg hozza meg, hanem egy manipulációra tervezett mesterséges intelligencia, a Szent Algoritmus.

Lassabb Facebookra van szükség, hogy az agyunk fel tudja dolgozni

„Egy szomorú tény a demokráciánkról: a legprofitábilisabb stratégia a megfigyelési kapitalizmusban az, ha a gyűlölet politikáját erőltetik ránk. Ha megosztanak minket és elbutítanak, mert így dühösek leszünk, heves érzelmeket fejezünk ki, és jobban megragadnak az álhírek, amik nagyobb aktivitásra ösztönöznek a pozitív üzeneteknél és a tényszerű információknál” – mondta Lessig. Bemutatott egy grafikont is, amely a kábeles hírcsatornák polarizáltságának változását mutatta: az ezredforduló környékén még nagyjából azonos hírekről számolt be a Fox News, a CNN és az MSNBC, de két évtized alatt a szélsőségek felé mozdultak a mutatók – a Fox News szinte már kizárólag a konzervatív-republikánus, míg az MSNBC a liberális-demokrata buboréknak szolgáltat tartalmat. „Az a céljuk, hogy olyan történeteket meséljenek, amilyeneket a nézői bázisuk hallani szeretne. Az a pszichológiai vágyunk, hogy az elfogult véleményeinket igazolják. Ez a kábeles hírcsatornák üzleti modellje, és ez az interneté is” – mondta Lessig.

Azok szerint, akik nem ismernek vitát a szólásszabadság kérdésében, mindezt el kell fogadni, hiszen az, hogy egyes üzeneteket felerősítenek, másokat pedig visszatartanak, olyan, mint amikor a New York Times szerkesztői eldöntik, hogy az egyes cikkek mennyire kiemelt helyen szerepeljenek az újságban. Lessig szerint ezzel az érveléssel mindössze annyi a probléma, hogy amíg a New York Timesnál erről emberek döntenek, akiknek tényleg vannak jogaik, a Facebooknál egy algoritmus hozza meg a döntéseket: „Ha nem tudunk különbséget tenni a minket megillető alkotmányos védelem és egy gépnek tulajdonított alkotmányos védelem között, akkor elvesztünk. Ha nem tudjuk szabályozni őket, akkor ők fognak szabályozni minket.”

Lessig egy olyan, három pontból álló javaslatcsomagot is felvázolt, amely úgy szabályozhatná a techcégeket és mindenható algoritmusaikat, hogy közben a tartalmakat nem minősíti, így a szólásszabadság megsértése nélkül tudna biztonságosabb technológiai környezetet biztosítani.

  • Sebességkorlátozásra van szükség, mivel a hamis információkat tartalmazó posztok terjednek a leggyorsabban. Az adatok szerint az összes Facebook-felhasználó 0,7 százaléka állítja elő a megtekintések 50 százalékát hozó tartalmat, míg a platformon megjelenő álhírek 38 százalékáért olyan posztok felelnek, amiket legalább kétszer megosztottak. Minél többen osztanak meg valamit, annál nagyobb az esélye, hogy hamis információt tartalmaz. Ha „sebességkorlátozást” vezetnének be, vagyis megszabnák, hogy legfeljebb hányszor lehet az egyes tartalmakat megosztani, ez kiküszöbölhető lenne. „Így nem hallgattatják el az üzeneteket, csak lelassítják a terjedésüket. Lelassítják egy olyan sebességre, ami legalább esélyt ad nekünk, hogy egészséges, megfontolt módon feldolgozzuk őket, ahelyett, hogy manipulálni tudna” – mondta Lessig.
  • Növelni kell a platformok felelősségvállalását. Mivel a tisztességes kommunikációról szóló törvény (Communications Decency Act, CDA) 230. szakasza (a híres Section 230) gyakorlatilag immunissá teszi őket bármilyen felelősségvállalásra a platformon elhangzó és megjelenő tartalmakkal kapcsolatban, ezt felül kell vizsgálni. Például, ha a Facebook felismer egy túl virálisnak tűnő tartalmat, akkor azt meg kell jelölnie, és ha a vizsgálat után kiderül, hogy álhírről, erőszakra buzdító szövegről vagy rágalmazásról van szó, akkor utólag törölheti – így legalább a könnyen felismerhető káros tartalmak iránt felelősségvállalásra kötelezhető a cég.
  • Kötelezni kell a platformokat arra, hogy előre bizonyítsák algoritmusaikról, hogy nem okoznak károkat. Lessig szerint egyre több programozó osztja azt a véleményt, hogy az algoritmusok területén is olyan paradigmaváltásra van szükség, mint amin az amerikai gyógyszerpiac keresztül ment a 19. és a 20. század fordulóján. Míg az 1800-as években bármit piacra lehetett dobni, legfeljebb ha később kiderült, hogy fel nem tüntetett káros hatásai vannak, utólag megbüntették a gyártót – amikorra már megtörtént a baj. A 20. században megfordították a dolgot: előre kellett bizonyítani, hogy biztonságos a gyógyszer, és utána lehetett csak értékesíteni. Bizonyos helyzetekben ezt az algoritmusokkal is meg lehet tenni: ha például az Instagram gyerekekre szeretne célozni egy algoritmust, akkor bizonyítsa előre, hogy annak nem lesznek káros következményei a gyerekekre nézve.
Járvány, klímaváltozás, forradalmak – mindez csak három dermesztő arca annak a felbolydult világnak, ami ránk vár. Lesz még neki jó pár. Ha teheted, segítsd a munkánkat, mi megháláljuk a bizalmadat, és ebben a nagy zavarodottságban hitelesen, alaposan és közérthetően magyarázzuk el, hogy a legégetőbb kérdésekre milyen válaszokat adnak a sárgolyó legnagyobb elméi. Maradj velünk. Támogatom a Qubit szerkesztőségét!

Kapcsolódó cikkek a Qubiten: