„Ma van a születésnapom, de senki sem köszöntött fel…” – áll egy idős férfi fotója alatt, akinek fáradt, de kedves mosolya könnyeket csal a kommentelők százainak szemébe. Több ezren küldenek neki virtuális ölelést, jókívánságot. Valaki még azt is felajánlja, hogy elküldi neki postán a saját készítésű sütijét. Mások szomorúan írják: „Szégyen, hogy egyedül ünnepel.”

Csakhogy a férfi nem létezik. Az arcát nem fényképezőgép rögzítette, hanem egy neurális háló rajzolta. A posztot nem egy magányos ember írta, hanem egy olyan tartalomgyár terméke, amely automatikusan generált fotókkal és szövegekkel árasztja el a közösségi médiát. Ez csak egyetlen a több ezer hasonló bejegyzés közül, amelyek hétről hétre végigsöpörnek a Facebookon.

De vajon miért hiszünk el ilyen könnyen képeket, történeteket, és miért kapcsolódunk olyan emberekhez, akik valójában nem is léteznek? A kérdés, amit a Computers in Human Behavior folyóirat legfrissebb számában megjelent tanulmányban tettem fel, egyszerűen hangzik, de a válasz annál ijesztőbb.

Generált tartalom, érzelmi manipuláció

Az elmúlt években a nagy nyelvi modellek (LLM-ek), köztük a ChatGPT villámgyors terjedése sokak számára kézzelfoghatóvá tette a generatív mesterséges intelligencia használatát. Ma már egyre többünk számára természetes, hogy az AI-t hívjuk segítségül egy üzenet megfogalmazásához vagy egy kép elkészítéséhez, miközben a technológia működését és következményeit még mindig nehéz átlátni. Gyakran eszünkbe sem jut, hogy amit látunk vagy olvasunk, akár teljes egészében mesterségesen előállított megtévesztés is lehet. A Facebook közben szinte észrevétlenül alakult át: a platform valósága már távol áll attól, amilyennek indulásakor ismertük. A változás ráadásul nemcsak technikai, hanem elsősorban pszichológiai természetű. A rendszer az érzelmi reakciókat jutalmazza, a generatív AI pedig éppen ilyen tartalmak előállításában a legerősebb: romantikus, megható, nosztalgikus vagy éppen provokatív képek és történetek árasztják el a felhasználók hírfolyamát.

A jelenség alapját az úgynevezett content farmok, vagyis az automatikusan működő, reklámbevételre optimalizált vállalkozások adják, amelyek futószalagszerűen termelnek tartalmat: előre beállított algoritmusok generálnak képeket és szövegeket, majd időzítve publikálják őket tucatnyi, sokszor egymás klónjaiként működő oldalon. A céljuk egyszerű: minél nagyobb forgalmat terelni olyan felületekre, ahol automatikusan elhelyezett hirdetések futnak, és ahol minden egyes kattintás és megosztás bevételt jelent. A content farmok így valójában nemcsak hamis tartalmakat gyártanak, hanem egy érzelmi reakciókra épülő mikrogazdaságot is teremtenek, ahol a felhasználói jóhiszeműség válik nyersanyaggá, a figyelem pedig fizetőeszközzé.

A szakirodalomban clickbait farm, fake content farm, ad farm, engagement bait site vagy content mill néven is emlegetett oldalak jellemzően nagy mennyiségű, de alacsony minőségű tartalmat gyártanak. Ezek az oldalak gyakran tele vannak összefüggéstelen vagy félrevezető cikkekkel, amelyek kizárólag a keresőoptimalizálásra (SEO) és az automatizált hirdetésmegjelenítésre épülnek. A rendszer lényege, hogy a generált tartalom érzelmi manipulációval (például „Nem fogod elhinni, mi történt ezzel a családdal!” típusú címekkel) és látványos, de hamis képekkel csalogatja a látogatókat a hirdetésekkel telepakolt oldalakra. Ezeket sok esetben olyan országokból (India, Banglades vagy a Fülöp-szigetek) üzemeltetik, ahol a digitalizációs munka olcsóbb és kevésbé szabályozott, de az utóbbi években a fejlettebb országokban is egyre elterjedtebbé váltak, hiszen az AI segítségével már szinte semmilyen emberi erőforrásra nincs szükség a fenntartásukhoz. Bár a content farmokról már léteznek tudományos elemzések, a generatív AI robbanásszerű terjedése radikálisan új szintre emelte a működésüket. Mindez azonban még mindig alig kutatott terület, miközben a tartalomgyártás volumene és sebessége exponenciálisan nő, a mögötte húzódó mechanizmusok és társadalmi következmények feltérképezése pedig még csak most kezdődött el.

A legnépszerűbb AI-generált tartalmak

A tanulmány alapjául szolgáló kutatást az teszi egyedivé, hogy nem laboratóriumi helyzetekre épült, hanem valódi felhasználói reakciókat vizsgált. Ehhez egy nagyméretű adatbázis készült, amely 8922 kommentet, 146 mesterségesen generált képet és 12 Facebook-oldal (például a Szűz Mária imája – „Ha szereted a tortákat, a gyerekkori emlékeket és a boldog pillanatokat, kövess minket!” vagy a Csatlakozz hozzánk „szórakoztató honlap”) több hónapon át követett aktivitását tartalmazta. Az elemzés kimutatta, hogy a képek túlnyomó többsége már első ránézésre is hordozza az AI-eredet jellegzetes nyomait: túl szabályos vagy épp aránytalan arcokat, furcsa textúrákat, természetellenes fény-árnyék viszonyokat, torz ujj- és kézformákat vagy olyan finom vizuális hibákat, amelyek valódi, ember által készített fényképen egyáltalán nem jellemzők. Mindezek ellenére a felhasználók jelentős arányban, kritika nélkül hitelesnek fogadják el ezeket a tartalmakat, és éppen ez az, ami a jelenséget igazán aggasztóvá teszi.