„Mesterséges intelligencia segítségével készült, élethű videó került ki a YouTube-ra és social media csatornákra, amely azt a látszatot kelti, mintha dr. Merkely Béla, a Semmelweis Egyetem rektora, a Városmajori Szív- és Érgyógyászati Klinika igazgatója lebeszélné a pácienseket a receptre felírt vérnyomáscsökkentő tabletták alkalmazásáról” – adta hírül az egyetem szerdán.

Bár egy gyors keresés után nem találni nyomát ennek a videónak sem a Youtube-on, sem a Facebookon, lehet, hogy a leírásban nem szerepel sem a rektor neve, sem a téma kulcsszavai – de az is lehet, hogy azóta már eltávolították a videókat és posztokat.

Az egyetem közleménye szerint a csalók által készített videó „megtévesztheti a hiszékenyebb felhasználókat és a kitettebb idősebb korosztályt, ezért érdemes tájékoztatni a szülőket, nagyszülőket, idősebb hozzátartozóinkat, szomszédainkat arról, hogy az internetes csalások a MI bevonásával szintet léptek”.

Továbbá figyelmeztetnek, hogy a receptre írt vérnyomáscsökkentők szedésének hirtelen megszakítása komoly kockázatot jelenthet és súlyos egészségromláshoz vezethet, ezért mindenki csak az orvosával történő egyeztetést követően módosítsa a felírt készítmények használatát, az interneten látott bármilyen videó ellenére. Az egyetem „megteszi a szükséges jogi lépéseket az ügyben”.

Nem ez az első eset, hogy egészségügyi kérdésekben magyar hírességek szájába adnak mondatokat a mesterséges intelligencia segítségével. Néhány héttel ezelőtt Schwab Richárd gasztroenterológusról terjedt hamis videó, Karikó Katalin nevében pedig már számtalan készítményt próbáltak eladni, vagy épp más gyógyszerekről lebeszélni embereket.

A hamisított videók és a deepfake technológia veszélyeiről az elmúlt években rengetegszer írtunk a Qubiten:

Már most a valóságunkat fenyegeti a deepfake és a generatív AI, és ez még csak a kezdet

Tóth András, Radó Nóra TECH 2023. június 10.

Szintetikus avatárrá változtattuk kollégánkat, Kun Zsuzsit, és egy magyar cégnél bepillantást nyerhettünk abba, hogyan zajlik egy AI-videó gyártása, mihez kezdhetnek ezekkel az eszközökkel rosszindulatú aktorok, és mit tehetünk a valóságunk megmentéséért.

Algoritmusnak és embernek együtt kell harcolnia a deepfake ellen

Qubit Podcast podcast 2023. június 8.

Mennyire különböztethető meg a szintetikus és a valós tartalom? Belefáradunk-e abba, hogy ezentúl szinte minden videóban kételkedni kell? A Qubit podcastjának vendége Veszelszki Ágnes egyetemi docens és Kovács Dominik, egy AI-videókat gyártó magyar cég CEO-ja.

Ha már az álhírekkel is alig bírunk, mi lesz, ha berobban a deepfake?

Bodnár Zsolt tudomány 2021. november 10.

Veszelszki Ágnes újmédia-kutató a Budapesti Corvinus Egyetemen vezeti a CGI-Deepfake kutatócsoportot, amely elkészítette az első magyar deepfake-felmérést. Itthon még csak szórakoztató tartalmakat gyártanak a médiahamisítók, de a technológia terjedésével egyre kevésbé lehet majd hinni a szemünknek és a fülünknek, ami információs káoszt okozhat.

Egyre olcsóbb, egyre egyszerűbb és egyre veszélyesebb a deepfake technológia

Bodnár Zsolt TECH 2020. október 28.

Két év alatt óriási fejlődésen ment keresztül a deepfake: az amatőr videók készítése egy gombnyomásra megy, de a profi kép- és hangmanipuláció sem kerül már 100 dollárnál többe. A politikai manipuláció mellett egyelőre leginkább kamupornóra használják, és a hírességek után most már mindenki célpont lehet, aki valaha töltött fel magáról képet az internetre.

2018: a deepfake éve, a valóság vége

Bodnár Zsolt TECH 2018. június 6.

A kép-és videóhamisításra használt deepfake technológia odáig jutott, hogy egyes szakértők már információs apokalipszist emlegetnek. A kamu felvételek elterjedése felrúgja azt alapigazságot, miszerint ha másnak nem, legalább a szemünknek hihetünk. Miközben még nincs igazi megoldás a problémára, a mesterséges intelligencia vadul fejlődik tovább.