Több mint százezer nőről generáltak és tettek közé pucér képet a tudtuk nélkül

Nincsen túlélhető és fenntartható jövőnk tudomány nélkül, ahogy nekünk sincsen nélkületek. Támogasd a Qubit munkáját!

104852 ezer nő fotóját töltötték fel a Telegram szöveges üzenetküldő szolgáltatáson garázdálkodó botnak, majd a képekből algoritmusokkal aktfotókat gyártottak. A kreált képeket különféle Telegram-csatornákon terjesztették, sőt árulták.  

Mindehhez még csak Photoshop sem kellett, a deepfake képeket a Telegramon tenyésző bot-ökoszisztéma hozta létre – derült ki a Sensity nevű, deepfake-re specializálódott hírszerző cég jelentéséből. Az esettanulmányban vizsgált Telegram-csatornák összesen 101080 tagot számláltak a világ számos pontjáról, de a felhasználók 70 százaléka Oroszországból vagy más kelet-európai országból származott. 

A képeket generáló botot számos hirdetésben reklámozták a VK nevű orosz közösségi oldalon.

A csalásnak áldozatul eső nők 70 százaléka nem híresség vagy influenszer volt, hanem magánszemély, pedig a deepfake-kel készült hamis pornóvideók jellemzően közismert személyekről készülnek. A felhasznált fotóknak csak egy része volt nyilvános. 

Giorgio Patrini, a Sensity vezérigazgatója és vezető kutatója a Forbes-nak azt mondta, hogy a pornográf kamuvideókkal ellentétben ezeknek a képeknek a generálása nem olyan erőforrás-igényes: elegendő volt egyetlen fotót feltölteni a csetszobába. Mindez szerinte azt mutatja, hogy jelentősen bővül azoknak a köre, akik áldozatul eshetnek a zaklatás ezen új formájának, „ha valaha megosztottál nyilvános fotót magadról közösségi oldalon, ki vagy téve a fenyegetésnek”. 

A Telegramon a közvetlen üzenetküldést végpont-végpont közötti titkosítással biztosítják, így az illegális tartalmakat is nehéz levadászni. Ám az ebben az ügyben érintett Telegram-csatornák felkutatásához elég volt egyszerűen a megfelelő kulcsszavakra keresni a nyilvános csoportok között. Patrini szerint ezek a csatornák meg sem próbálnak elrejtőzni, és több tízezer felhasználójuk van, akiket válogatás nélkül fogadnak be. A hasonló bot-szolgáltatások általában cégeket céloznak, fizetősek, nagy közönséget akarnak elérni, hogy nagyobb bevételre tegyenek szert, és emellett szinte zavartalanul működnek.

Visszafejtett DeepNude?

A Sensity által felfedezett Telegram-bot szolgáltatása a DeepNude nevű alkalmazáshoz hasonlít, ami a mesterséges intelligencia segítségével automatikusan generált aktképeket felöltözött nők fotóiból. Amint a DeepNude bekerült a hírekbe, a fejlesztői egy nap alatt lekapcsolták, viszont a licencét gond nélkül eladták egy online vásártéren harmincezer dollárért, ez után pedig szorgalmas internethasználók visszafejtették a kódját. A Sensity nyomozói szerint a Telegram-bot is valószínűleg a DeepNude valamilyen nyílt forráskódú változatán alapul, de még annál is könnyebben használható. 

(Amikor pedig ehhez a hírhez vizuális illusztrációt kerestünk, a YouTube-on oktatóvideók végeláthatatlan sorát találtuk arról, hogyan kell utólag eltávolítani a képeken felöltözött nők ruháját. A jelek szerint a pornótól megcsömörlött modern felhasználók olyan lázban égnek, mint egyszeri magyar kiskamasz 1985-ben a vetkőzős toll láttán.)

A deepfake felemelkedése miatt aggódók legtöbbször a politikai következményektől tartanak, de sok szakértő úgy látja, hogy ennek a jelenségnek is a társadalmilag sebezhető rétegek lesznek a legnagyobb kárvallottjai.

Kapcsolódó cikkek a Qubiten: