Nem baj, ha tartunk a mesterséges intelligenciától, de a fejlődését nem lehet szabályokkal megállítani és lelassítani se nagyon, bár jelenleg az Egyesült Államokban és máshol is próbálják. Az MI nem olyan, mint az atombomba, amit egyezményekkel lehet korlátozni: nincs is pontosan definiálva, mi az a mesterséges intelligencia, ezért betiltani sem könnyű – mondta Szegedy Balázs elméleti matematikus szerda este az MTA Tudományünnep+ programsorozatban tartott előadásában.

Szerinte az MI az információ önszerveződésének a következő szintje lehet, olyan jelentőségű új lépés, mint az élet kialakulása. Ezért a legjobb, amit jelenleg tehetünk, hogy mélyebben megértjük, mivel állunk szemben – hiszen ha jobban értjük, előre tudunk gondolkodni és fel tudunk készülni azokra a drámai változásokra, amelyeket a jövőben hozhat a mesterséges intelligencia.

Szegedy a Rényi Alfréd Matematikai Kutatóintézet tudományos főmunkatársa, a mesterséges intelligenciával kapcsolatos alapkutatások nemzetközileg ismert szakértője. Kutatásainak lényege, hogy nagyon nagy rendszerek viselkedésében olyan vezérelveket találjon, amelyek megkönnyítik a rendszer viselkedésének megértését. Bátyja, az Egyesült Államokban dolgozó Christian Szegedy kutató-matematikus jelenleg egy mesterséges matematikus létrehozásán dolgozik, emellett az Elon Musk által alapított xAI MI-kutatásokkal foglalkozó cég társalapítója.

Tudomány vagy technológia?

Szegedy előadásában azt a kérdést járta körül, hogy beilleszthető-e a mesterséges intelligencia a tudományba, vagy inkább csak technológiai megoldások sorozatáról van-e szó. A matematikus szerint az MI jelenleg 90 százalékban a mérnöki trükkök, nagyszerű ötletek gyűjteménye, és csak tíz százalékban tudomány. Ők viszont a Rényi Alfréd Matematikai Kutatóintézetben azon dolgoznak, hogy ez az arány a tudomány javára billenjen el.

Ezt amiatt tartja fontosnak, mivel ha jobban megértenénk az MI elméleti működését, talán helyesebben tudnánk gondolkodni a természetéről, és több kontrollunk lehetne felette. Szegedy szerint míg a számítástechnika hajnalán már erős elméleti matematikai alapokra épült a technológia, gondoljunk csak Alan Turing vagy Neumann János munkásságára, az MI esetében nem mondhatjuk el ugyanezt. Miközben a számítástechnológia nagyrészt a számítástudomány elméletén alapul, a mesterséges neurális hálók, amelyek számítógépeken futnak, olyan paradigmaváltást jelentenek, amiről máshogyan kell gondolkodni , de egyelőre nem találni hozzá az elméleti keretrendszert.

Szegedy szerint míg a programozás azt jelenti, hogy csinálunk egy gépet, ami végrehajt egy feladatot, a mélytanulás már azt, hogy olyan gépet csinálunk, ami apró lépésenként fejlesztget egy újabb gépet, és ez az újabb gép fogja végül elvégezni a feladatot. Tehát a végeredménytől egy metaszinttel távolabb kerülünk, ezért kevesebb kontrollunk marad a viselkedése felett. Ez jelenik meg az MI feketedoboz-szerű működésében, amikor nem tudjuk, hogy mi miért történik.

A mélytanulás velejárója a tökéletlen működés is: épp Szegedy Balázs bátyja, Christian Szegedy fedezte fel először, hogy léteznek olyan ellenséges példák (adversarial examples), amelyekkel a gépi látás folyamata során a neurális hálózatok megtéveszthetők (ezekről itt írtunk részletesebben). Emellett Szegedy szerint nagy probléma az interpretálhatóság kérdése, vagyis hogy vissza tudjuk fejteni, mit miért csinál egy MI-rendszer – egy önvezető autó esetében például különösen fontos lenne megtudni, hogy miért ütött el egy embert.

Ha nem vigyázunk, algoritmusfüggőkké válhatunk

Mivel a mesterséges intelligenciával kapcsolatos fejlesztések a szellemi teret feszegetik, a matematikus olyan kérdéseket is felvetett előadásában, mint hogy kreatív-e valójában az MI, mit hozhat a jövő, és öntudatra ébredhet-e a gép.

Szegedy szerint a kreativitás nem azt jelenti, hogy új dolgokat hozunk létre, hanem sokkal inkább azt, hogy új, érvényes nézőpontot találunk. Ez fordítódik le később egy-egy új, eredeti festménnyé, zeneművé, verssé vagy technológiává. A mesterséges intelligenciának az az erőssége, hogy nagy mennyiségű információnak képes megtalálni a hasznos reprezentációt, tehát az algoritmusok meg tudják tenni az igazi alkotás legfontosabb lépését. A matematikus szerint abban fejlődhetnének még, hogy ezeknek ténylegesen új fogalmakat, hasznos szavakat adjanak. Erre például a ChatGPT még nem képes.

Ahogy az ipari forradalomban a tárgyak értéke, úgy az MI-forradalom hatására a szellemi alkotások, a gondolatok, a művészetek értéke is inflálódhat. Az intellektuális tér pedig még jobban telítődhet olyan tartalmakkal, amelyek már megkülönböztethetetlenek az ember által készített tartalmaktól. Kérdés, hogy fel vagyunk-e készülve egy olyan gyors változásra, amelynek keretében az emberi munka értéke jelentősen megváltozik. Szegedy szerint nem.

A matematikus nem attól tart, hogy az MI kiirtaná az emberiséget, hanem inkább attól, hogy sokkal jobban végez majd mindent az embernél, még az ember manipulálását is, és ezért bármit megcsináltat majd velünk, és így függővé válhatunk tőle.

Létrejöhet a mesterséges személyiség?

Szegedy szerint a sötétben tapogatózunk ebben a kérdésben, hiszen mindenki csak saját magáról tudja biztosan, hogy van öntudata. Azért feltételezzük, hogy a többieknek van, mert hozzánk hasonlóak, hasonló helyzetben ismerős viselkedést mutatnak. Vagyis ha egy MI-rendszer egyszer hozzánk hasonló viselkedést mutat majd, nagyon valószínű, hogy elkezdjük feltételezni, hogy öntudattal bír. Ahhoz viszont, hogy ebben biztosak legyünk, meg kellene értenünk, hogy mi az az öntudat, erről azonban még keveset tudunk. Jelenlegi tudásunk például még azt sem zárja ki, hogy mindennek van öntudata, csak lényegesen különbözik a miénktől.

Szegedy szerint ugyanakkor ahhoz már nagyon közel kerültünk, hogy a mesterséges intelligencia átmenjen a Turing-teszten. Ami hiányzik belőle, az az, hogy saját élményei legyenek, és önazonosan tudja átadni őket. A matematikus szerint mára a nagy nyelvi modellek fejlődésével az MI nyelvi képességei már megvannak, a logikai képességei is vitathatatlanok, hiszen a matematikaérettségin is átmegy. Már csak az a kérdés, hogy létre tudunk-e hozni mesterséges személyiséget.

Fájhat-e az élet a mesterséges intelligenciának?

A matematikus szerint az MI tud majd úgy viselkedni, mintha lennének érzelmei, itt is felmerül viszont a probléma, hogy honnan tudjuk, hogy amit mond, az úgy van-e. Hiszen az embereknél sem tudjuk pontosan megállapítani, a másik ember valóban azt érzi-e, amit állít. Ha feltesszük, hogy az MI-alapú rendszerek éreznek, pontosan megértjük, mit jelent az, hogy fájdalom, és utána az összes számítási kapacitást ráállítjuk arra, hogy szimuláljuk a fájdalmat, akkor ott a valódi fájdalom jelenik meg, vagy csak a program fut, és a bitek változnak?

Szegedy erre a kérdésre nem adott választ, azt viszont elmagyarázta, mit jelent a technológiai szingularitás, és mi történhet a gépek fejlődési pályáján. Amikor egy gép olyan intelligens lesz, mint az ember, akkor a gép ugyanúgy tudja majd fejleszteni a gépet, mint az ember. Tulajdonképpen ez a technológiai szingularitás, amikor a mesterséges intelligencia bekerülhet egy önfejlesztő örvénybe, és exponenciális fejlődés következhet be. A matematikus szerint ezzel olyan magas szintre is eljuthat az MI, hogy az ember már azokat a koncepciókat, gondolati mechanizmusokat sem érti majd, amik onnantól fogva befolyásolják a működését. „Azt szokták mondani: ami az atombomba a fizikai világban, az az MI a szellemi dolgok világában. Kivéve, hogy az atombomba nem tud jobb atombombát fejleszteni, de a mesterséges intelligencia tud jobb mesterséges intelligenciát”.

Kapcsolódó cikkek a Qubiten:

link Forrás

link Forrás