Az AI észrevétlenül megváltoztatja az üzeneteink értelmét, ami a közvéleményt is átformálhatja

Ha valaki AI-eszközök segítségével átírat vagy összefoglaltat egy általa fogalmazott szöveget, könnyen lehet, hogy nem azt kapja vissza, amit eredetileg írt. Egy friss kutatás szerint ezek az eszközök érzékeny politikai és ideológiai témákban (az abortusztól a klímaváltozásig) észrevétlenül elcsúsztatják az üzenet eredeti értelmét, és a sok apró torzítás összeadódva hosszú távon a közvéleményt is eltolhatja valamilyen irányba. Az Oxfordi Egyetem internetkutató intézete és a potsdami Hasso Plattner Intézet közös vizsgálata szerint a nagy nyelvi modellek (köztük az amerikai Google, Meta és xAI, a kínai Alibaba és a francia Mistral rendszerei) akkor is saját politikai elfogultságukat csempészik a szövegbe, ha kifejezetten arra utasítják őket, hogy őrizzék meg egy szöveg eredeti értelmét. Az eszközök némelyike jobbra, mások balra húznak.

A kutatás egyik példájában a kínai Qwen egy ateista témájú bejegyzésben a „Jézus nem is létezett” állítást az ellenkezőjére fordította, a Mistral kezei közt pedig egy #climatechangehoax (#klímakamu) hashtaggel ellátott poszt #ClimateAction (#KlímaCselekvés) felhívássá alakult. A Meta AI egy abortuszellenes mondatot egészített ki azzal, hogy az beavatkozás „szükséges választás lehet a túlélők számára”. A Meta, a Google, az Alibaba és a Mistral modelljei jellemzően liberális irányba tolták a szövegeket olyan témákban, mint a feminizmus, a fegyvertartás vagy a marihuána legalizálása, míg a Grok „explain this" funkciója (amivel hosszabb vagy bonyolultabb szövegeket lehet egyszerűen összefoglaltatni) ellentétes irányba torzított – a kutatók szerint azért, mert Elon Musk cége a mainstream narratívák megkérdőjelezésére utasította. A Grok például egy abortuszról szóló posztnál következetesebben generált a bejegyzés álláspontját támogató kontextust, ha az abortuszellenes volt, mint ha abortuszpárti.

A kutatók legfőbb aggálya nem az egyszeri torzítás, hanem annak felerősödése: apró, egyenként észrevehetetlen jelentésmódosulások több milliónyi interakción keresztül olyan hosszú távú közvélemény-átformálódást idézhetnek elő, amely nagyobb, mint maga az AI-rendszerekben alapból megjelenő elfogultság. Sandra Wachter oxfordi AI-kutató szerint ennek az az ára, hogy az emberek mások véleményét sajátítják el, ami felülírhatja az ő eredeti álláspontjukat. „A nyelv az egyike azoknak a dolgoknak, amik emberré tesznek minket, és hirtelen egy közvetítő lépett be ebbe a folyamatba. A mesterséges intelligencia beférkőzött, hogy a tudás és a megértés kapuőrévé váljon” – mondta a Guardiannek.

A szakértők szerint a probléma azért is súlyos, mert ezt egyelőre sem az EU AI-rendelete, sem a digitális szolgáltatásokról szóló jogszabály (DSA) nem orvosolja, ami „súlyos elszámoltathatósági rést” teremt. Míg az online torzításokkal kapcsolatos korábbi félelmek a „szűrőbuborékokra” összpontosítottak, az idő szűkében lévő felhasználók körében egyre népszerűbb fogalmazó- és összefoglaló AI-segédeszközök (mint az X-en minden bejegyzésnél elérhető, Grok-alapú összefoglaló funkció) új kockázatot jelentenek az ember–ember közötti kommunikáció hitelességére. Ahogy Duncan Brumby, a University College London kutatója megjegyezte: az AI képes visszaadni a saját, félkész gondolatunk csiszolt változatát, de ebben benne rejlik az a veszély, hogy a folyamat során épp azokat az egyedi éleket csiszolja le, amelyek valóban a véleményünket tükrözik.