A Facebook meghökkentő megoldást talált a bosszúpornóra: úgy kezdődik, hogy el kell küldeni a Messengeren a meztelen fotót

A Facebook Ausztráliában teszteli megelőző megoldását a szándékosan kiszivárogtatott szexuális tartalmú képek, azaz a bosszúpornó (revenge porn) problémájára. Az eljárás első lépése meghökkentő: a felhasználónak közvetlenül a Messengerre kell feltöltenie azt a képet vagy videót, amelyről úgy gondolja, hogy illetéktelen kezekbe került, és visszaélésre alkalmas lehet. A bosszúpornó jellemző esete, amikor az explicit tartalmat az azon szereplő nő vagy férfi korábbi partnere osztja meg a nagyobb nyilvánossággal.

A Facebook kísérletében az ausztrál kormány kiberbiztonsági hivatala is partner. A kormánybiztosság fő feladata egyébként a kiskorúak elleni online abúzus visszaszorítása. Első lépésként a felhasználó felveheti a kapcsolatot a hivatallal, amely javasolja neki, hogy az aggályos képet küldje el magának a Messengeren. Ez után a kép elérhetővé válik a Facebook rendszerében, de nem tárolódik el – írta a TechCrunch.

A Facebook a kompromittáló tartalmat felcímkézi, numerikus jellel látja el, ezáltal a cég képes lesz lenyomozni a képet vagy videót, ha valahol felbukkan. Ehhez ugyanazokat a mesterséges intelligencián alapuló módszereket veti be, amelyeket az arcokat képekkel párosító algoritmusok esetében, és elvileg megakadályozza, hogy a kérdéses fotót a jövőben feltöltsék és megosszák. Fontos, hogy a módszer csak akkor működik, ha a felhasználó az eredeti fájlt küldi át – írta a Verge.

A Facebook először áprilisban lépett a bosszúpornó visszaszorításáért, akkor kevésbé megelőző jelleggel: a már kiszivárgott szexuális tartalmak további terjedése ellen léptek fel egy képösszevető rendszer bevezetésével. Ez a módszer csak abban az esetben működik, ha a kompromittáló tartalmat jelentették és levetették. A cég le is tiltja azokat a felhasználókat, akiknél bosszúpornóra utaló aktivitást észlel.

A mostani akcióval viszont azokat célozzák meg, akiknél még nem történt meg a baj, de sebezhetőnek érzik magukat, például mert olyan kapcsolatban osztottak meg párjukkal rizikós tartalmat, amely idővel bántalmazóvá vált.

„A Facebook nem tárolja el a képet, csak a linket, ezzel dolgozik a mesterséges intelligencia, valamint az egyéb képfelismerő technológiák. Tehát ha valaki megpróbálja ugyanazt a képet feltölteni ugyanazzal a numerikus jellel, nem fog neki sikerülni” – magyarázta Julie Inman Grant, az ausztrál kiberbiztonsági biztos az ABC hírügynökségnek.

Van ok az óvatosságra

Az új módszerrel kapcsolatban aggályok is felmerülnek. Bár a Facebook a numerikus kódokkal elkerüli, hogy a tartalmakat a saját szerverein kelljen tárolnia, a cég adott már okot arra, hogy a felhasználók ne bízzanak a magánszférájuk védelmében, és a facebookozóknak joggal tűnhet úgy, mintha megelőzésképpen önként osztanának meg magukról bosszúpornót. Mivel a szolgáltatást egyelőre csak tesztelik, azt sem tudni, hogy a szűrőrendszert mennyire könnyű átverni azzal, hogy a fotó egyes tulajdonságait szemmel észrevehetetlen mértékben módosítják.

Sokszor sikerült már átejteni a gépi látást: hackerek és kutatók is használják az úgynevezett ellenséges képeket, amelyek egyszerű manipulációkkal verik át a mesterséges intelligenciát. Az átverés kétféleképpen történhet: elérik, hogy az arcfelismerő összekeverjen két embert, vagy a képelemző szoftvert zavarják össze úgy, hogy azt hiszi, egy tárgy van előtte, holott a valóságban a kép nem több, mint geometriai formák értelmezhetetlen összevisszasága.

Könnyen elképzelhető, hogy a Facebook bosszúpornó-szűrőjét is fel lehet ültetni hasonló módszerrel. Például úgy, hogy a sorok között kellő mennyiségű összezavaró adatot helyeznek el, így a mesterséges intelligencia már az eredetitől teljesen különböző képnek látja a módosított kompromittáló fotót.

A Facebook egyelőre annyit közölt a kísérletről, hogy még három másik országban teszeli a módszert, de azt nem árulta el, hogy hol.