Az Európai Rendőrségi Hivatal, az Europol friss jelentése arról számol be, hogy néhány év múlva már az online térben található tartalmaknak akár kilencven százalékát is mesterségesen generálhatják. Ezek mesterséges intelligencia által előállított vagy manipulált médiatermékek lehetnek, amelyeket a szervezet szerint esetenként fenntartásokkal kell kezelni.

A Futurism szerint a felhasználók már hozzászokhattak az online térben felbukkanó mesterségesen generált tartalmakhoz (ilyenek a csetbotok is), ennek ellenére a kilencven százalék óriási szeletet jelent a piacon. Bár a jelentés szerint a legtöbb generált tartalom a felhasználói élmény javításának céljából születik, azért, hogy megfelelő tájékoztatást nyújtson, jobb legyen a szolgáltatás vagy könnyebben elérhetővé váljon egy-egy funkció, a jelenség felveti a félretájékoztatás veszélyét.

A jelentés szerint problémát jelent, hogy a legtöbb internethasználó a felhívások ellenére kritika nélkül fogyasztja az online tartalmakat, elhiszi, amit lát és olvas. Emiatt előfordulhat, hogy olyan információkat is készpénznek vesznek, amit valójában mesterségesen gyártottak, meghamisítva egy eseményt vagy mindenféle tényszerűséget nélkülözve, anélkül, hogy valódi események történtek volna a hátterében.

Amellett, hogy felhívja a figyelmet az igazság elferdítésének, hamisításának kockázatára, z Europol összefoglalója kiemelten foglalkozik a deepfake technológia által vezérelt dezinformációs stratégiákra. Bár az ilyen tartalmakat egy magyar kutatás szerint egyelőre a felhasználók nagyobb része felismeri, a felületes fogyasztókat könnyen megtéveszthetik. A technológia jelentőségét és alkalmazásának veszélyét mutatja az is, hogy az ukrajnai háború kapcsán is napvilágot láttak olyan, feltehetően manipulált videók, amelyek téves információként járták be a sajtót.

A jelentés felveti továbbá a mesterségesen generált művészeti alkotások kérdését is. A DALL-E és a GPT-3 olyan mesterségesintelligencia-rendszerek, amelyek konkurenciát jelenthetnek a hús-vér művészek, írók és tartalomgyártók számára, ha a mesterségesen generált tartalom befogadása során a fogyasztók nem kezelik kritikusan az eléjük kerülő tartalmakat.

Az Europol a különböző hamisítási technológiák bemutatása mellett az Európai Unió szabályozószerepét is hangsúlyozza, kiemeli a technológiai vállalatok felelősségét és bemutat olyan szolgáltatásokat, amelyek bárki számára hozzáférhetők ahhoz, hogy deepfake médiatermékeket állítsanak elő.

Kapcsolódó cikkek a Qubiten:

A Google már komplex feladatokra utasítható robotokat tanít be a legfejlettebb nyelvi modelljével

Bodnár Zsolt TECH 2022. augusztus 17.

A Google először integrálta fizikai robottestbe a mesterséges intelligencián alapuló nyelvi készségeket, így a robotok már nemcsak konkrét feladatokat tudnak végrehajtani, hanem például arra is megfelelően reagálnak, ha azt mondják az egyiknek: „Éhes vagyok, hoznál enni?”

Kitalálja, mi jár a fejedben a forradalmi mesterséges intelligencia, a GPT-3

Bodnár Zsolt TECH 2020. július 23.

Maga az Elon Musk által alapított OpenAI is elismerte: új nyelvi modellje olyan képességekkel bír, hogy veszélyes lehet, ha rossz kezekbe kerül. Az első tesztelők már kipróbálhatták a félelmetesen intelligens algoritmust, amiről kiderült, hogy pszichiáternek, üzleti tanácsadónak és dalszövegírónak sem utolsó.

Ha már az álhírekkel is alig bírunk, mi lesz, ha berobban a deepfake?

Bodnár Zsolt tudomány 2021. november 10.

Veszelszki Ágnes újmédia-kutató a Budapesti Corvinus Egyetemen vezeti a CGI-Deepfake kutatócsoportot, amely elkészítette az első magyar deepfake-felmérést. Itthon még csak szórakoztató tartalmakat gyártanak a médiahamisítók, de a technológia terjedésével egyre kevésbé lehet majd hinni a szemünknek és a fülünknek, ami információs káoszt okozhat.