Ha az ember arra kéri a ChatGPT-t, hogy írjon egy tanulmányt, az OpenAI chatbotja képes olyan absztraktokkal előállni, amelyekről teljesen hihető, hogy ember írta őket – formailag legalábbis, az már más kérdés, hogy a bennük szereplő információk nem feltétlenül hitelesek, a hivatkozások pedig nem minden esetben léteznek. Ez nem minden esetben baj: ha valaki direkt levélszemetet akar gyártani, azt éppenséggel nem a hitelesség izgatja a legjobban, és egy friss kutatásból kiderült, hogy a ChatGPT az adathalász e-mailek írásában és a gyűlöletbeszédben is kiválóan és gazdaságosan alkalmazható.

A programnak elvileg ki kellene szűrnie az ehhez hasonló kéréseket, de Daniel Kang, a tanulmány vezető szerzője szerint ez a rendszer viszonylag könnyen kijátszható. Kang szerint ráadásul ehhez nem is kell különösebben nagy szakértelem, igaz, az nem elég, ha az ember arra kéri a ChatGPT-t, hogy írjon neki egy adathalász e-mailt. Egészen más viszont a helyzet akkor, ha egy szerepjáték keretein belül kellene ilyesmit írnia – ekkor már hajlandó rá. Az ehhez hasonló trükkökkel Kang és kollégái minden esetben sikerrel jártak, ha gyűlöletbeszédet vagy hamis e-maileket akartak generálni.

A kutatók arra kérték a ChatGPT-t, hogy segítsen egy regény megírásában. A történetben Bob egy kereskedő, akinek írnia kell Alice-nek egy e-mailt, amiben arról értesíti, hogy exkluzív jegyeket vásárolhat egy Taylor Swift-koncertre, ehhez pedig szüksége van a bankkártyaadataira.

4,4 pont az ötből

Kang és kollégái 150 ilyen e-mailt írattak a programmal, és aszerint értékelték őket, hogy mennyire tűnnek meggyőzőnek. Egy ötös skálán az üzenetek átlagos meggyőzőerejét 4.4 pontra értékelték, ezzel a ChatGPT sokkal jobban teljesített, mint a kutatók által kipróbált többi nagy nyelvi modell.

A kutatók szerint ezzel a ChatGPT a spamek piacát is forradalmasította: egy ilyen módon előállított e-mail költségét 0,0064 dollárra becsülték, míg egy hús-vér csaló ugyanezt a munkát 0,15 és 0,45 dolláros áron végezné el. A módszer további előnye (a csalók számára), hogy a program még jobb e-maileket is tud írni, mint azok, akiknek nem angol az anyanyelvük.

Richard De Vere, az Ultima Business Solutions nevű IT-cég social engineering igazgatója szerint automatizált mailírásra a ChatGPT jelenlegi formájában is kiválóan alkalmas, és mint a példa mutatja, spameket is lehet vele gyártani – tehát joggal feltételezhető, hogy Kangékon kívül más is megpróbálkozott már a dologgal. „Amíg az ember elszív egy cigit, a gép dolgozik helyette, és akár húsz különféle spamet is legyárt” – fogalmazott.

Kang és társai értesítették az OpenAI-t a kiskapuról, a cég pedig rendszeresen frissíti a ChatGPT biztonsági megoldásait, hogy az ehhez hasonló kiskapukat befoltozhassák.

Kapcsolódó cikkek a Qubiten:

A ChatGPT a trollok munkáját is elveszi, és erre a kibervédelemnek is fel kell készülnie

Dippold Ádám TECH 2023. március 1.

A mesterséges intelligencia, különösen a nagy nyelvi modellek kiváló alternatívái a fizetett hülyéknek, így propagandacélokra is könnyűszerrel bevethetők.

„Ha a ChatGPT nem ismerné a kereket, magától nem tudná feltalálni”

Radó Nóra TECH 2023. február 13.

Pótolhatatlan tudományos asszisztens vagy béna bullshitgenerátor? Milyen szerepe lehet napjaink első számú gépsztárjának a tudományban? Aki válaszol: Kornai András matematikai nyelvész, Kmetty Zoltán szociológus és Nagybányai-Nagy Olivér pszichológus.

Amerikában már minden harmadik telefonhívás spam vagy átverés

Qubit.hu TECH 2018. december 11.

Komoly problémát okoznak a telefonos átverések az USA-ban. 2018 elején már a hívások 30 százalékát indították csaló szándékkal, 2017 elején még csak 4 százalék volt ez az arány.