Yuval Noah Harari a Facebook AI-vezérével vitázott arról, hogy új felvilágosodás vagy pusztulás vár az emberiségre
A generatív, vagyis emberi utasításra különféle tartalmakat (szöveget, képet, hangot) előállító mesterséges intelligencia (AI) az elmúlt egy év alatt annyit fejlődött, hogy nemcsak a hétköznapi emberek, de a terület legnagyobb kutatói is csak kapkodják a fejüket. A közvéleményen túl ugyanis a tudományos közösséget is megosztja a kérdés, hogy az AI fejlődését új ipari forradalomként kell értelmezni, ami teljesen felforgatja a munkaerőpiacot, de végeredményben egyszerűbbé teszi az emberek életét, vagy éppen az emberiség pusztulását hozhatja el, ezért még időben le kell állítani a fejlesztéseket.
Utóbbi mellett érveltek annak a március végén közzétett nyílt levélnek az aláírói, amiben a ChatGPT alapját is képző nagy nyelvi modelleket olyan AI-rendszerekként jellemezték, amiket „senki, de még a létrehozói sem képesek megérteni, kiigazodni rajtuk, vagy megbízhatóan felügyelni”. A többek közt Elon Musk, az Apple-alapító Steve Wozniak, Yuval Noah Harari történész és számos neves AI-kutató (Gary Marcus, Yoshua Bengio, John Hopfield, stb.) nevével díszített felhívás az ilyen rendszerek fejlesztését átmenetileg fel kell függeszteni – legalább addig, amíg ki nem találják, hogyan érdemes szabályozni és felügyelni a fejlesztéseket.
A GPT modelleket készítő OpenAI-jal leszerződött Microsoft és az elmúlt évek legnagyobb AI-áttöréseit szállító DeepMind csapatával kiegészült Google már most óriási versenyt fut azért, hogy a mesterséges intelligenciával felturbózott eszközeiket a felhasználók elé tárják, de a nyílt levél szerint ez a megfelelő ellenőrzés hiányában komoly fenyegetést jelent a társadalomra és az emberiségre. Mások szerint a moratórium csak félmegoldás: a Gépi Intelligencia Kutatóintézet (MIRI) nevű, kifejezetten az AI egzisztenciális kockázatainak felmérésével foglalkozó nonprofitot vezető Eliezer Yudkowsky egyenesen az ilyen rendszerek leállítását követeli, mivel szerinte az embernél is intelligensebb gépek fejlesztésének egyetlen logikus következménye az, hogy az AI feleslegesnek találja majd az embereket, és amint rájön, hogyan lépjen ki gépi kereteiből (például DNS-alapú mesterséges életformákat nyomtatva magának), meg is szabadítja a világot a Homo sapienstől mint legintelligensebb vetélytársától.
Az új technológiai őrület haszonélvezői viszont értelemszerűen hallani sem akarnak a fejlesztések szüneteltetéséről, és inkább azzal az ígérettel igyekeznek csillapítani a pánikszerű közhangulatot, hogy – bár üzleti titok miatt ezt nagyon nem részletezhetik, de – a háttérben ők nagyon alaposan felügyelik az eszközök biztonságosságát, és csak akkor adnak ki bármit, ha az nem jelent veszélyt a társadalomra. Azt még ők sem vitatják, hogy a ChatGPT-hez hasonló rendszerek nagyon gyorsan nagyon nagy változásokat hozhatnak a mindennapokba – egy márciusi MIT-kutatás szerint átlagosan 37 százalékkal nőtt azoknak a dolgozóknak a produktivitása, akik már használják munkájuk során az OpenAI chatbotját. Ez már ipari forradalomra emlékeztető ugrás: „Ez a technológia azt teszi majd a szellemi munkakörökkel, amit a gőzgép tett a műszaki munkával” – összegezte a helyzetet Aidan Gomez, a Cohere nevű AI-startup vezetője. Az optimisták forgatókönyve szerint azonban nem a mesterséges intelligencia helyettesíti majd az emberi munkaerőt, hanem az AI előnyeit kiaknázó dolgozóknak lesz nagyobb munkaerő-piaci értéke azokénál, akik nem használnak mesterséges intelligenciát.
A világsajtóban végigszáguldó nyílt levél fogadtatása nem volt egyöntetű, több kutató ugyanis arra hívta fel a figyelmet, hogy a fejlesztések átmeneti vagy tartós leállítását sürgető üzenetek több kárt okoznak, mint maguk az AI-rendszerek. Andrew Ng, aki korábban a Google és a Baidu AI-részlegeit is vezette, illetve a Meta AI-kutatásait irányító, a mesterséges intelligencia egyik atyjának tartott Yann LeCun közösen reagált a közleményre: szerintük az eltúlzott, szenzációhajhász állítások félrevezetik a közvéleményt, és elvonják a figyelmet a valós kockázatokról (pl. részrehajlás, félretájékoztatás, hatalomkoncentráció), miközben az aláírók állami beavatkozást is sürgetnek, ami az innováció és a verseny halála.
Ez a két tábor azonban idáig leginkább csak üzengetett egymásnak, és nem nagyon került sor az érvek valós idejű ütköztetésére, ezért a francia Le Point hetilap most páros interjút készített a nyílt levelet elsők között aláíró Yuval Noah Hararival, az emberiség történelmének legújabb szakaszait vizsgáló, népszerű izraeli történész-íróval, valamint a mesterséges neurális hálók és a számítógépes látás területén elért eredményeiért 2018-ban a számítástudomány Nobel-díjának is nevezett Turing-díjban részesített, a Facebook (ma már Meta) AI-kutatásait tíz éve vezető francia Yann LeCunnal.
Mindenkit a saját intelligens segítői tesznek produktívabbá és kreatívabbá
A két kutató kevés ponton értett egyet egymással, de azt mindketten biztosra veszik, hogy valamikor a (nem túl távoli) jövőben megjelennek a legalább az emberivel egyenértékű gépi intelligenciák, de azt lehetetlen megtippelni, hogy ez mikor következik be. Ennek a gépi szuperintelligenciának a természetét már másképpen látják: LeCun szerint ha a valamilyen fokú autonómiát élvező gépek képesek lesznek célokat kitűzni maguk elé, majd megpróbálják azokat elérni, az gyakorlatilag érzelmekkel ruházza fel őket, mivel előre meg kell jósolniuk egy adott cselekvéssorozat kimenetelét – ha teljesíti a célt, az örömöt okoz, ha nem sikerül, szomorú lesz. Harari nem ért egyet, szerinte a góban vagy sakkban minden profi emberjátékost lealázó gépek nem éreznek örömöt, amikor végrehajtják a feladatot, és így az is elképzelhető, hogy az univerzális problémamegoldásra képes általános mesterséges intelligencia (AGI) majd úgy szárnyalja túl az emberi intelligenciát, hogy közben nem lesz tudatos – a tudatosságot ugyanis az érzelmek birtoklásának képességeként definiálja a történész.
A 2024-es amerikai elnökválasztás közeledtével egyre gyakrabban merül fel az is, hogy az egyszerű felhasználóknak is könnyen kezelhető generatív AI milyen veszélyt jelent a demokráciára. LeCun szerint egyelőre semmilyet, de azzal, hogy az élesedő verseny miatt már az OpenAI sem teszi nyilvánossá az adatait, és zárt ajtók mögött zajlanak a fejlesztések, szerinte is veszélybe kerül a biztonságos, irányítható AI-kutatás. Ő leginkább a Wikipédia modelljére alapozná a jövő intelligens asszisztenseit, ahol a felhasználóktól származó információkat folyamatos, gondos szerkesztéssel tökéletesítik addig, amíg tárgyilagos, etikailag is elfogadható végeredményt kapnak. „Nem hiszem, hogy a jövőben olyan zárt AI-rendszerek lesznek majd, amelyek egyetlen vállalat tulajdonában vannak, ahogy azt eddig láttuk. Sok embernek kell majd felülvizsgálnia, mert a rendszer sokféleképpen elromolhat” – mondta LeCun, aki szerint a közösségileg ellenőrzött AI-asszisztenseket valahogy úgy kell elképzelni, mint A nő című 2013-as film intelligens operációs rendszerét. Ha viszont a fejlesztők betartják a megfelelő biztonsági előírásokat, és az adott termékük is átmegy a szabályozáson, az egy teljesen új korszakot hoz majd a mindennapokba, beleértve a munka világát is:
„Én igyekszem csak olyan emberekkel dolgozni, akik okosabbak nálam. Ez jó út a sikerhez. (...) Ahogy az autóink is erősebbek, mint mi, úgy el lehet képzelni a jövőt, ahol mindenki olyan intelligens gépekből álló személyzettel rendelkezik, amely hatékonyabbá, produktívabbá vagy kreatívabbá teszi. Ezért gondolom, hogy [a mesterséges intelligencia] egy új reneszánszot, gyakorlatilag egy új felvilágosodást hoz majd el.”
Harari szerint mindez attól függ, hogy milyen kezekbe kerül a technológia. Azt ugyanis a fejlett chatbotoknak hála már most nehéz eldönteni, hogy amikor az interneten beszélünk valakivel, tényleg egy másik ember van-e a túloldalon. Márpedig Harari úgy látja, hogy a techvilágban most ugyanakkora verseny folyik az emberek intimitásáért, amekkora 10-15 évvel ezelőtt az emberek figyelméért – akkor a közösségimédia-cégek arra hajtottak, hogy mindenki osszon meg mindent nyilvánosan, míg a chatbotokkal a személyes, bensőséges beszélgetés lehetőségét kínálják. Ráadásul ez egy sokkal erőteljesebb állapot: ha sikerül elérni, hogy az ember megbízzon az AI-asszisztensében, mert az mondjuk 95 százalékban hasznos és helyes válaszokat ad, akkor szinte észrevétlenül csúszik át a rendszeren a maradék 5 százaléknyi befolyásolási kísérlet, amit valaki beletáplált. És ha a Facebook vagy a Google kőkorszaki hirdetési algoritmusainak sikerült elérni, hogy átvegyék az irányítást az emberek vásárlási szokásai felett, egy meggyőzően érvelő chatbot nehogy már ne tudjon rávenni bárkit, hogy például egy adott politikai irányzat felé forduljon.
Ha elkövetjük a 20. század hibáit, már nem éljük meg, hogy levonjuk a tanulságokat
Bár LeCun szerint 2023-ban nem ér azon meglepődni, hogy a gépek bizonyos döntéseket meghoznak az emberek helyett (hiszen egy Google-keresésnél is az AI-motor dönti el, milyen sorrendben tárja a felhasználó elé a találatokat), Harari szerint az AI az első olyan eszköz, ami valóban kiveheti az emberek kezéből a döntéshozatal folyamatát. Ráadásul a technológiai fejlődés mai üteme mellett ez végzetes lehet, míg a 20. században még tudtunk tanulni a hibáinkból. A világháborúk szörnyűségei, a nácizmus vagy a kommunizmus kudarcos kísérletei emberek százmillióinak életét tette tönkre, de végül megtanultunk, hogyan kell jobb ipari társadalmat építeni.
„De ha például egy mesterséges intelligencián alapuló totalitárius rendszert hozunk létre, vagy kirobbantjuk a harmadik világháborút, talán már nem lesz visszaút. A 20. századot csak azért éltük túl, mert a technológia nem volt elég erős ahhoz, hogy elpusztítson minket. A 21. század technológiája sokkal erősebb. Ha a jelenlegi technológiával ugyanolyan hibákat követünk el, nagy az esélye, hogy nem éljük meg a tanulságok levonásának lehetőségét.”
Yann LeCun ennek ellenére úgy véli, az AI-alapú nyelvi modellek fejlesztésének felfüggesztése nem oldana meg semmilyen problémát, hiszen nagyon messze járunk attól, hogy egy szuperintelligens gép egyetlen gombnyomásra felülkeredjen az emberiségen, de az odáig vezető úton – amelyen természetesen szerinte is lassan, szabályozottan és a nyilvánosság előtt kell végigmenni – rengeteg előnyhöz hozzájuthat az emberiség: „Az emberi intelligencia gépi felerősítése egy új reneszánszt vagy egy új felvilágosodás korát teszi lehetővé, az AI-nak köszönhető tudományos, technikai, orvosi és társadalmi fejlődés révén.” A szabályozással megbízott kormányok bevonása ráadásul LeCun szerint azt is garantálná, hogy bármiféle veszélyes szuperintelligencia létrehozásához hosszú-hosszú évekre lenne szükség, mivel a mai társadalmak egyik legnagyobb problémája, hogy a kormányzatok lassan reagálnak a technológiai változásokra. Erre egy régi céges sztorit hozott fel példaként: a Facebook számos liberális demokráciát működtető kormányt megkeresett, hogy egyeztessenek arról, hogy milyen típusú tartalmak felelnek meg az adott állam alkotmányának – Európában például a techcégnek kell blokkolnia a holokauszttagadó tartalmakat. LeCun elmondta, hogy egyetlen országból érkezett válasz: Emmanuel Macron kormánya tanácskozott arról, hogyan egyeztethető össze a szólásszabadság korlátozása a demokratikus elvekkel, de törvény végül Franciaországban sem született erről.
Harari szerint ez épp azt támasztja alá, hogy ideje lassítani: „Teljesen normális, hogy évtizedekbe telik, míg az emberi társadalmak, különösen a demokráciák megértik a változásokat, és véleményt alkotnak róluk. Most kijönnek ezek az új AI-eszközök, de évekbe telik, amíg a társadalom megérti a politikára, pszichológiára vagy gazdaságra gyakorolt hatásukat. Le kell lassítanunk, hogy a társadalomnak legyen lehetősége felismerni a veszélyeket, és eldönthesse, mihez kezdjen velük.”
Abban sem volt köztük egyetértés, hogy mekkora a jelentősége a kép- és videógeneráló AI-eszközök valóságtorzító hatásának. Míg Harari szerint a technológiai fejlődés paradoxona miatt a világ egyik legfejlettebb informatikai nagyhatalmában tömegek kérdőjelezik meg az elnökválasztás hitelességét, egy pandémia vagy a klímaváltozás létezését, LeCun az idősebb lakosságra kente ezt a jelenséget. A Meta kutatója egy tanulmányt idézett, miszerint a clickbait címekre kattintó olvasók túlnyomó többségét a 65 év felettiek adják, mivel ők nehezebben alkalmazkodnak a modern világhoz, de szerinte az internettel együtt felnövő generációk már sokkal óvatosabbak és tudatosabb hírfogyasztók.
Ha már LeCun korábban a Facebookkal példálózott, Hararinak is eszébe jutott valami a platformról, amikor azt fejtegette, mekkora történelmi lépcső, hogy az AI a korábbi technológiai forradalmak termékeivel ellentétben már képes saját döntéseket hozni. „Egyre inkább az algoritmusok döntik el, milyen tartalmakat tárnak az emberek elé, és ott az a híres példa, amikor azt a célt tűzték ki az AI-nak, hogy maximalizálja a platform forgalmát, aminek az lett a nem várt következménye, hogy maximalizálta a gyűlöletet, mivel az AI magától rájött, hogy a gyűlölet aktivizálja legjobban az embereket” – emlegette fel a történész a Facebook 2021-es szivárogtatási botrányából kiderült esetet. LeCun gyorsan megvédte kenyéradóját, és elmondta, ez a tanulási folyamat része volt, de az algoritmus csavargatásával éppen az ilyen hibák javítása a cél. Harari azonban amellett érvel, hogy az ilyen kisebb technológiai bakiknak is beláthatatlan következményeik lehetnek, hiszen Donald Trump is nagyban köszönheti a közösségi médiának, hogy megválasztották elnöknek, és hiába tekertek az algoritmuson a választások után, a kettéosztott amerikai társadalmon ejtett sebek máig nem gyógyultak be. „A kérdés tehát az: mennyi esély van arra, hogy visszafordítsunk valamit, miután már elkövetett egy nagy hibát?”
Gazdasági átmenet, de hogyan?
Arról, hogy a mesterséges intelligencia miként alakítja át a munkaerőpiacot, LeCun elmondta: „Új munkahelyek jönnek létre, régi munkák pedig eltűnnek, ahogy az iparosodás idején is 60-ról 2 százalékra csökkent az élelmiszer-termelésben dolgozók aránya. De ki gondolta volna 20 évvel ezelőtt, hogy elég jól meg lehet élni Youtube-videók készítéséből, mobilappok fejlesztéséből vagy webdizájnból?” A munkakörök gyökeres változásával Harari is egyetért, az átmenetet viszont egészen máshogy képzelik el. LeCun szerint 15-20 évbe biztos beletelik, míg az emberek felveszik a lépést a technológiával, és munkába tudnak állni az új szakmájukban, de a gazdaság felfordulása ellenére csak kétféle végkifejletet lát maga előtt: az emberek vagy több pénzt keresnek majd ugyanannyi munkával, vagy ugyanannyit keresnek kevesebb munkával.
Harari szerint azonban a történelem azt tanítja, hogy a nagy átmeneti időszakok politikailag és társadalmilag is nagy törést okozhatnak rövid idő alatt: Németországban mindössze négy évet kellett várni az 1929-ban kirobbanó nagy gazdasági világválság után, hogy Hitlerben lássák meg a megoldást, de arra is gondolni kell, hogy a világ többi részén milyen változást okoz egy ilyen technológiai átmenet. „Ott van például Banglades, ami túlnyomórészt a textiliparára támaszkodik. Mi történik, ha olcsóbb lesz automatizáltan ruhát gyártani Európában, mint Bangladesben? Honnan lesz pénz arra, hogy 50 év fölötti bangladesi textilipari munkások millióit átképezzék AI-mérnököknek? (...) Nem lehetetlen megoldani. Meg lehetne adóztatni az amerikai csúcstechnológiai vállalatokat, és a pénzt a bangladesi átképzésekre fordítani, de nem látom magam előtt, ahogy bármelyik amerikai kormányzat ilyet tenne.”
Kapcsolódó cikkek a Qubiten:
