A világvége-hangulat eltereli a figyelmet az AI közvetlen veszélyéről, az álhírekről
Azzal, hogy a mesterséges intelligenciáról zajló közbeszéd inkább világvége-hangulatot tükröz és a legriasztóbb jövőképekre összpontosít, elterelődik a figyelem azokról a közvetlen kockázatokról, amiket például az álhírek tömeges generálása jelent – mondta vasárnap Aidan Gomez, a Cohere chatbotokat és más nagy nyelvi modelleken (LLM) alapuló eszközöket építő amerikai cég ügyvezető igazgatója. Gomez 20 évesen már a Google kutatócsapatában dolgozott az LLM-ek (large language models, nagy nyelvi modellek) lapjául szolgáló transzformer technológián.
Gomez szerint, aki jövő héten az AI biztonsági aspektusaival foglalkozó konferencián vesz részt Londonban, természetesen a mesterséges intelligencia hosszú távú kockázatait is tanulmányozni kell, és ide tartozik az emberiségre potenciálisan leselkedő egzisztenciális veszély, de ezek előtérbe helyezése elterelheti a politikusok figyelmét a közvetlen veszélyek kezeléséről.
A szakértő szerint a mesterséges intelligenciát már most is milliók használják, és a hosszú távú hatások elméleti és akadémiai jellegű elemzése helyett erre kellene inkább összpontosítani. A szöveggeneráló chatbotok, mint a ChatGPT vagy a képgenerátorok, mint a Bing vagy a Midjourney szinte napról napra jobb minőségű produktummal állnak elő, miközben egyre egyszerűbb promptolni (vagyis megfelelő utasításokkal ellátni) őket.
Gomez szerint az egyik kulcskérdés a félrevezető online információk és álhírek terjedése, és nagyon is elképzelhető, hogy egy bothadsereg AI-generált tartalmakkal árassza el a közösségi médiát, ami veszélyt jelent a demokráciára és a közbeszédre. „Ezek a modellek elképesztően meggyőző, nagyon hatásos médiatermékeket hozhatnak létre, amelyeket gyakorlatilag lehetetlen megkülönböztetni az emberek alkotta szövegektől, képektől vagy videóktól. És ez olyasvalami, amit tényleg sürgősen kezelni kell. Ki kell találnunk, hogyan vértezzük fel a nyilvánosságot azzal a képességgel, hogy különbséget tudjanak tenni a különféle kontenttípusok között” – mondta.
Rishi Sunak brit miniszterelnök múlt csütörtökön figyelmeztetett a technológia veszélyeire, és bejelentette, hogy létrehoznak egy állami fenntartású hivatalt, ami ellenőrzi majd az AI-t. A miniszterelnök szerint a mesterséges intelligencia ugyanolyan forradalmi változásokat hoz, mint az elektromos áram vagy az internet, és olyan problémákat is képes lesz megoldani, amelyek egyelőre megoldhatatlannak tűnnek. Ha viszont rossz kezekbe kerül, hihetetlen veszélyt jelent az emberiségre – ugyanakkorát, mint a járványok vagy egy nukleáris háború.
Kapcsolódó cikkek a Qubiten:
