Ha már az álhírekkel is alig bírunk, mi lesz, ha berobban a deepfake?

Támogasd a tudomány népszerűsítését, segítsd a munkánkat!

Mennyit számít az, hogy a tudósok hogyan kommunikálják eredményeiket, és milyen összefüggésben van ezzel az emberek tudományba vetett bizalma? Tényleg több az összeesküvés-elmélet, vagy csak az algoritmusok szeretik kiemelni őket? Mi veszi rá a tanult, jómódú embereket is arra, hogy higgyenek a háttérhatalomban? És mit lehet tenni, hogy a deepfake-tartalmak világába beleszülető generációk tagjai is meg tudják különböztetni a valódi felvételeket a hamisítottaktól?

Erről kérdeztük Veszelszki Ágnes nyelvészt és újmédia-kutatót, a Budapesti Corvinus Egyetem tanszékvezető egyetemi docensét, akinek Karantészótár című kötetét tavaly a Qubiten is bemutattuk, és aki újabban a vizuális manipuláció témakörével is foglalkozik. Az egyetemen működő CGI-Deepfake kutatócsoportjával Magyarországon elsőként készítettek felmérést arról, hogy az interneten található megtévesztő szándékú tartalmak hogyan hatnak a befogadókra – ennek eredményeiről is mesélt a kutató, aki november 10-én 14 óra 55 perctől tart előadást a deepfake technológiáról a Neumann Társaság Deep IT konferenciáján, amelyet online lehet követni.

A kutatócsoport tagjai: dr. Veszelszki Ágnes kutatócsoport-vezető, Horváth Evelin és Mezriczky Marcell doktoranduszok

Nyelvészként kezdte a pályáját, hogyan következett ebből az újmédia, majd a vizuális manipuláció kutatása?

Viszonylag organikusan kapcsolódnak egymáshoz a kutatási területeim: már 2000, azaz egyetemi tanulmányaim kezdete óta a digitális kommunikáció nyelvi vonatkozásaival foglalkozom, legelőször az sms nyelvhasználatával. Ekkor még úgy gondoltuk sokan, hogy az sms mélyreható változásokat fog hozni a nyelvhasználatban, az írástechnikában, ám ahogyan a technika elavult, az sms-rövidítések hatása is elmúlt. Később kitágítottam ezt a kutatást a digitális kommunikáció más formáira, hiszen a közösségi média (előbb az iWiW, majd a Facebook) is erőteljes hatást gyakorol a nyelvre. Az egyik lényeges újdonság, hogy azok is, akik korábban nem vagy ritkábban kommunikáltak írásban, így kezdtek el megnyilvánulni, akár nagyobb közönség előtt is, gondolok itt a posztolásra, kommentelésre, de akár a csetelésre is. A digitális átállást és következményeit nyelvészként, kommunikációkutatóként gyakorlatilag folyamatában lehetett megfigyelni. Mindezekből adódott a vizualitás kutatása, illetve legújabban az álhírek – és a megtévesztő vizuális tartalmak, kiemelten a deepfake vizsgálata.

Tudománykommunikációval is foglalkozik, ami Magyarországon különösen elmaradott területnek tűnik. Sok kutató nem szeret, vagy épp nem mer szerepelni, illetve gyakran az is akadályozza a tudománykommunikációt, hogy az intézmények bürokratikus hozzáállása, a hetekig tartó egyeztetés-engedélyeztetés miatt nem lehet aktuális témákban megszólaltatni kutatókat. Hogyan lehetne ezen a gyakorlaton változtatni?

A kutatók nyilvános kommunikációban betöltött szerepéről többféle szerepelképzelés létezik egymás mellett. A kutatók nyilvános megszólalása egyébként viszonylag új fejlemény. Ha korábban, nagyjából az 1980-as évek előtt a tudósok széles körben megnyilvánultak, azt a tudósközösség „devianciának” tartotta a professzionális norma megsértése miatt, miszerint a tudósnak távol kell tartania magát a nyilvánosságtól, mert a nyilvános megszólalás elvonja a figyelmüket az igazán fontos feladatokról. Ez az elképzelés az utóbbi évtizedekben egyre inkább visszaszorulóban van, ám még mindig nem tűnt el teljesen. Különösen az 1980-as évektől kezdve azonban a média és a tudósközösség egyre szorosabban együttműködik a „tudomány eladásában”.

A tudós szerepe mindenesetre továbbra is kérdéses: csupán tudásbrókerként, azaz a tudományban újonnan megszerzett tudás elosztójaként kell-e viselkednie, vagy pedig megoszthatja a nagyközönséggel a véleményét, értékrendjét is. A kutatók nagy többségükben jelenleg már a társadalmi feladatuk fontos részének tekintik, hogy elmagyarázzák a munkájukat a nagyközönségnek, ám e tevékenységük a tudományos eredmények megosztására korlátozódik, de nem terjed ki a közéleti vitákban való aktív részvételre, véleményük kifejtésére. A tapasztalatok szerint ebben hoz változást egyrészt a klímaváltozással, másrészt a koronavírus-járvánnyal kapcsolatos ismeretek megosztása. 

Hogyan függ össze a tudomány és a kutatók megítélése az internet és a közösségi média fejlődésével? Hogyan alakult a tudomány iránti bizalom a pandémia alatt?

A 2010-es évektől kezdve a közösségi média is egyre fontosabbá vált a tudományos kommunikációban: a (nemzetközi színtéren jelen lévő) kutatók nagy hányada már a mindennapjai részének és a reputációépítés, illetve a digitális kutatói szelf megteremtése fontos eszközének tekinti a közösségi kommunikációt is.

Érdekesség egyébként, hogy míg a társadalomtudományokkal foglalkozó kutatóktól általában elvárják, hogy a témakörök esszéisztikusan is megfogható, „humán” jellege miatt közérthetően tudjanak a szakterületükről beszélni, külön képzés nélkül is; addig ezzel szemben a természettudomány tudósait – a terület kísérletező, sokszor kvantitatív jellege miatt – explicit módon is képzik a tudományos témákban történő megszólalásra.

2020-ban a pandémia hatására az évek óta egyre növekvő szkepszis a tudománnyal szemben is csökkenni látszik. 2019-ben az amerikai válaszadók 35 százaléka, a világjárvány után már „csupán” 28 százaléka nyilatkozott úgy, hogy kételkedik a tudományos eredményekben és a kutatókban.

dr. Veszelszki ÁgnesFotó: Balogh József

Összeesküvés-elméletek mindig is léteztek, de az utóbbi években-évtizedekben mintha egyre inkább előtérbe kerültek volna. Az internet és a közösségi média csak felnagyítja őket, vagy tényleg az a helyzet, hogy aki kevésbé médiatudatos, az könnyen elhiszi őket, és ezért valóban nagyobb hatással terjednek?

Az összeesküvés-elméletek egy − összetartozó vagy összefüggés nélküli − eseménysort rendszerint jelentős befolyással bíró emberek rossz szándékú tevékenységéhez kötnek. A konspirációs elméletek, az úgynevezett konteók az ellenük szóló bizonyítékokat is a maguk javára tudják fordítani. Éppen ezért szinte cáfolhatatlanok, mert aszimmetrikusan kezelik az érvelésük mellett és az az ellen szóló bizonyítékokat: az alátámasztó bizonyítékokat minden további nélkül elfogadják, de az ellenük szólókról azt állítják, hogy azok félrevezetők, rossz szándékúak. Ráadásul nem izolált állításokat tesznek, hanem komplex világnézetrendszert dolgoznak ki.

A közösségi média tartalomszűrő algoritmusa is segíti az összeesküvés-elméletek terjedését: ez határozza meg, hogy a böngészés során milyen információk kerülnek a fogyasztók elé. A Facebook (a felhasználó aktivitása bizonyos tartalmakkal kapcsolatban, a tartalom aktualitása, földrajzi közelség stb. alapján optimalizált) tartalomrankingje mögött rejlő algoritmust folyamatosan, a platform céljainak megfelelően, de a felhasználók számára nem átlátható módon optimalizálják. A tartalom-rangsorolás miatt lehetséges, hogy a felhasználók a hasonló érdeklődési körrel rendelkező, egymással gyakran interakcióba lépők tartalmaival találkoznak a legtöbbször. A filterbuborék (filter bubble) hipotézise szerint ha a felhasználó csak a saját nézeteinek megfelelő, azokat megerősítő tartalmakkal találkozik, akkor úgy vélheti, hogy mindenki hozzá hasonló módon gondolkodik. A filterbuborék egyfajta digitális hiedelemkamraként működik: a közösségi oldalaknak az az érdekük, hogy a felhasználó minél több (hirdetések megnézésére is fordítható) időt töltsön a felületükön, ezért a korábbi kereséseinek, preferenciáinak megfelelő tartalmakat szűr és tár elé az algoritmus. Ezt erősíti továbbá, hogy nagy valószínűség szerint hasonló érdeklődési körrel, hiedelmekkel rendelkező személyek tartoznak egy ismerősi körbe, ily módon könnyen megerősítik egymást a hasonló nézeteikben. 

A legújabb vizsgálatok szerint a hírfogyasztók kisebb arányban fordulnak a tényellenőrző és -hitelesítő oldalakhoz, ha az információkkal a közösségi oldalakon találkoznak – még abban az esetben is, ha a hír megosztója nem is közvetlenül ismerősük. Azt is mondják: mások jelenléte elaltatja éberségünket. Emellett erőteljesen működik a közösségi médiában az ismétlési hatás is: ha ugyanazzal az információval többször, akár ugyanolyan forrásból találkozik a felhasználó, az az ismétlés révén sokkal meggyőzőbb lesz számára.

Meg lehet-e még egyáltalán győzni az embereket az álhírek, manipulatív tartalmak, konteók hamisságáról, vagy a véleménybuborékok miatt ez szinte már lehetetlen?

Az eddig vizsgálatok alapján nem találtak összefüggést az összeesküvés-elméletek elfogadása és a befogadók szociodemográfiai jegyei között: sem a nemek, sem a foglalkozás, sőt még az alacsonyabb iskolázottság sem tekinthető egyértelmű hajlamosító tényezőnek. Egy 2014-es kutatásban csupán kismértékű összefüggést találtak a konteó-hiedelem szintje és az alacsonyabb iskolai végzettség között, és ehelyett sokkal inkább a hatalmi aszimmetriát tartják magyarázó tényezőnek: azaz minél kevesebb befolyásoló erővel rendelkezik egy személy az őt körülvevő események alakulására, annál inkább hajlamos azokat valamilyen hatalmas, számára megmagyarázhatatlan erőnek, akár az úgynevezett háttérhatalomnak tulajdonítani. Vannak viszont hajlamosító pszichológiai jellemzők (mint az interperszonális bizalmatlanság vagy az egzisztenciális bizonytalanság), általános információfeldolgozási módok, illetve kifejezetten az összeesküvés-elméletekre jellemző befogadói viselkedések. 

Az elmúlt években újabb front nyílt az online manipulációban a deepfake technológiával, amely már az audiovizuális hamisítást is lehetővé teszi. Kutatócsoportjával idén tavasszal elkészítették az első nagy magyar nyelvű deepfake-kérdőívet. Milyen eredmények születtek?

A Corvinus-egyetemen működő CGI-Deepfake kutatócsoportunkkal egy nagy (10 730 főből álló) kitöltőszámot elért kérdőíves felmérést végeztünk 2021 tavaszán. Azt terveztük felderíteni, hogy az interneten található megtévesztő szándékú tartalmak hogyan hatnak a befogadókra. A kérdőíves kutatás deepfake-re vonatkozó része kilenc videórészletből állt: ebből három módosítás nélküli volt, három könnyen felfedezhető módosítást tartalmazott, három pedig nehezen felismerhető deepfake-változtatást alkalmazott. A videómanipulációt a bárki számára elérhető Reface alkalmazással végeztük, amely a mélytanulási technológia segítségével, a célszemély feltöltött portréfotójának felhasználásával filmes jelenetekbe illesztette be az alanyaink arcát. A felhasznált videórészletek ismert filmekből vagy tévésorozatokból (például: Venom, Loki, Fast and Furious) származtak. A résztvevőknek azt kellett eldönteniük a videórészletek megtekintése után, vajon a képsorozat tartalmaz-e módosítást, és ha igen, milyen jellegűt. 

A kitöltők nagy része a véletlen találgatásnál magasabb arányban volt képes megkülönböztetni a manipulált videókat a nem manipulált anyagoktól. A véletlenszerű tippelés esetén 4,5 találatuk lenne a kitöltőknek, ezzel szemben a manipulált videók felismerésekor 6,39-as eredményt értek el a 9-ből. Ezt a viszonylag magas arányt ahhoz is köthetjük, hogy a kérdőívkitöltők a témafelvezetés alapján felkészültek arra, hogy esetlegesen manipulált képi tartalmakkal találkoznak a vizsgálatban. A nők összességében jobban teljesítettek összességében a kép- és videómanipuláció felfedezésekor – ám a deepfake esetén a férfiaknak volt jobb a felismerési képességük. Ez összefügghet azzal is, hogy (az akár a férfiak számára jobban) ismert filmrészletekből adtunk meg mozgó képkockákat.
Meglepő eredménynek tartjuk, hogy az életkorok kapcsán nem volt eltérés a felismerési képességben. Az nem okozott azonban különösebb meglepetést, hogy azok, akik szoktak digitális módosításokat végezni képeiken-videóikon, sokkal hatékonyabban ismerték fel mind a képek, mind a videók manipulációját, mint azok, akik nem szoktak képeket-videókat szerkeszteni. 

Az eddig feldolgozott eredmények alapján a kitöltők nem tartják félelmetesnek a technikát: sokan szórakoztatási céllal kipróbálták már, hogy valaki arcát behelyettesítették egy film- vagy klipszereplő arca helyére. Leggyakrabban a Reface, a FaceSwap, a Snapchat és az MSQRD alkalmazásokat használták már deepfake-videó létrehozására, főként saját arcukat használták fel behelyettesítőként, ezt követik a barátok, rokonok, majd a híres emberek. Alig fordult elő a mintában olyan, aki olyan személy arcát választotta, akit nem kedvel. Ezzel egybehangzó eredmény, hogy mindössze 4-en (0,039 százalék) állították, hogy bosszúból vagy haragból készítettek deepfake-videót. Ez az eredmény természetesen összefügghet a kérdőív önbevallásos jellegével is. Az elkészült deepfake-videókat a válaszadók főként privát üzenetben küldték tovább az ismerőseiknek; volt, aki csupán megőrizte ezeket a telefonján – és alig néhányan osztották meg a deepfake-tartalmakat a közösségimédia-oldalukon. 

A kérdőíves kutatásunk eredményei alapján a felhasználók döntő többségét a deepfake használata kapcsán a szórakozási lehetőség és a kíváncsiság motiválja; elhanyagolható azok aránya, akik valakinek akarnak ártani manipulált tartalmak közzétételével. Az tehát (egyelőre) nem várható, hogy magánszemélyek széles körben egymás lejáratására használják a technológiát, de a deepfake kiemelten fontos kérdéseket vet fel a videófelvételek hitelességével kapcsolatban.

Balra: Mezriczky Marcell doktorandusz, dr. Veszelszki Ágnes kutatócsoport-vezető, Horváth Evelin doktoranda (Budapesti Corvinus Egyetem); jobbra a CGI-Deepfake kutatócsoport 2021-es konferenciájának felhívása

Úgy tűnik, mintha lenne egy kis megtorpanás a deepfake technológia fejlődésében. Egy-két éve sorban jöttek a felhasználói appok, aztán ez a trend most lassulni tűnik. Tényleg ez a helyzet, vagy csak nem a felhasználók szeme előtt, a háttérben folyik a technológia tökéletesítése?

Folyamatosan találkozunk új és új applikációkkal. A face-swap (arccserés) alkalmazások után most az arc (újra)animálása a leginkább népszerű. Például a DeepNostalgia program segítségével (akár nem élő) emberek, rokonok állóképeit lehet mozgóvá tenni: ezáltal mosolyra fakadhat, kacsinthat valamely ősünk vagy akár egy híres személy is. A sokak számára elérhető Photoshop program egy új funkciója a mesterséges intelligencia segítségével képes arra, hogy a fotómodell szemét kinyissa (gondoljunk csak bele, mennyire hasznos lehet ez egy nagy csoportkép esetén), sőt akár a fotóalany hangulatát is lehet a képen ezáltal szerkeszteni. 

A deepfake egyik legtöbbet emlegetett veszélye a zsaroló videók egyszerű elkészíthetősége, amellyel akár az idős vagy a kevésbé technológiaértő emberekből könnyen lehet pénzt kicsalni. Erre van már ismert példa?

Az egyik legismertebb példa szerint egy nemzetközi cég vezetőjének hangját hangszintetizáló programmal telefonon utánozva csaltak ki egy másik országban dolgozó pénzügyi vezetőtől nagyobb összeget. El tudom képzelni ugyanezt az úgynevezett unokázós csalásokkal is: ennek során a nagyszülőt felhívják a csalók, hogy az unokájuk bajba került, ily módon csalnak ki a segíteni szándékozó nagyszülőtől pénzt – akár az unoka saját hangját is utánozva.

Hogyan lehet védekezni a deepfake és a vizuális manipuláció ellen egyéni, illetve törvényi vagy szabályozási szinten?

A közösségimédia-oldalak próbálkoznak a megtévesztő tartalmak szoftveres felderítésével és letiltásával. Ezzel kapcsolatban felmerülhet azonban a cenzúra kérdése. Továbbá az új és új manipulatív technológiák mindig az ezeket leleplező programok előtt járnak, mint a rablók a pandúrok előtt. A jogi szabályozás ugyancsak nem egyszerű: a jog általában sokkal lassabban tudja követni a technológiai újdonságok megjelenését. 

Van-e annak realitása, hogy már az általános iskolában, lehetőleg minél fiatalabb gyerekeket médiatudatosságra neveljenek, hogy ne utólag kelljen nekik elmagyarázni a különbségeket, amikor már fogékonnyá váltak a manipulatív tartalmakra?

A vonatkozó kutatások alapján a médiakompetencia, a digitális tartalmak előállítási módjainak ismerete hozzájárul a téves információk sikeres felismeréséhez, és csökkenti az összeesküvés-elméletek elfogadását, továbbá a közösségi médiában megjelenő információkkal szemben nagyobb kétellyel jár együtt. Érdemes a médiafogyasztókat, médiahasználókat edukálni: megtanítani azt, hogy nem minden információ valós, amellyel találkoznak, és különösen a közösségi média közegén keresztül érkező információkat célszerű megfelelő távolságtartással kezelni.

A Qubit szerkesztősége azért dolgozik, hogy a magyar nyilvánosság hiteles, alapos és közérthető tudományos ismeretekhez jusson. Tesszük ezt politikamentesen, közszolgálati hevülettel, száznál több kutató és tudós bevonásával. Égető kérdések, dermesztő válságok és zavaros álhírek sűrűjében igyekszünk tartani a fáklyát immár havi bő hétszázezer olvasónknak. Cikkeink ingyen olvashatók, de nem ingyen készülnek. Segítsd a munkánkat!

Kapcsolódó cikkek a Qubiten: