Az amerikai Villamos- és Elektronikai Mérnökök Intézetének (IEEE) AI-kutatói, Nell Watson és Ali Hessami egy új keretrendszert dolgoztak ki, amely 32 különböző esetét írja le a mesterséges intelligencia „megvadulásának”. A kutatás célja, hogy bemutassa az AI lehetséges működési zavarait, és rávilágítson arra, milyen kockázatokat hordozhat a technológia a mindennapi életben, és a nem informatikai területeken dolgozók is tisztában legyenek azzal, hogy mivel járhat az AI bevezetése a munkaterületükön – írja a Live Science.

A mesterséges intelligencia diszfunkcióinak felméréséhez először az AI-biztonság, a pszichológia és a komplex rendszerek mérnöki tudománya területén dokumentált működési zavarokat vették sorra a szakértők, majd ezeket a jelenségeket összehasonlították az emberi pszichológiai rendellenességekkel. Az így létrehozott keretrendszer az emberi Mentális Zavarok Diagnosztikai és Statisztikai Kézikönyvéhez hasonló módon foglalja össze az AI-diszfunkciókat és azok lehetséges következményeit.

Az eddig is világos volt, hogy az AI hajlamos a hallucinációra, ami a nagy nyelvi modellek esetében azt jelenti, hogy hamis információkat generál és hihető formában adja elő őket, ugyanakkor a Psychopathia Machinalis nevű új keretrendszer eredményei túlmutatnak a félretájékoztatáson, és az emberi pszichére jellemző vonásokat fedeznek fel az AI viselkedésében. Ilyen például az obszesszív-kompulzív zavar (OCD), ami a kényszergondolatok megjelenését és az állandóan ismétlődő kényszercselekvéseket jelenti a pszichológiában.

A kutatók szerint a legijesztőbb állapot az „übermenschal ascendancy”, amikor az AI túllép az emberek által belé táplált értékrendszereken, és az uralom átvételét tekinti új normának. Egy korábban, a Nature Human Behavior folyóiratban megjelent kutatás azt is elemezte, hogy az AI sokkal odaadóbban segít hozzá hasonló nagy nyelvi modelleken, mint embereken.

Az Electronics folyóiratban publikált tanulmány szerint ahogy az AI egyre önállóbbá válik, a külső kontroll és szabályozás önmagában már nem elegendő. A kutatók ezért egyfajta „pszichológiai terápiát” javasolnak az AI számára, amely önreflexiót, értékekhez való igazodást és biztonságos működést biztosíthat annak érdekében, hogy az emberi igényeket szolgálja.

* * *

Szeptemberben a mesterséges intelligencia (AI) főbb kutatási irányaival, korlátaival és társadalmi kockázataival foglalkozunk az exkluzív, csak Qubit+ tagoknak meghirdetett, következő tudományos estünkön, a 12. Qubit Live-on.

Velünk lesz Huszár Ferenc mérnökinformatikus, az egyik legidézettebb magyar AI-kutató, Ligeti-Nagy Noémi alkalmazott nyelvész, a Nyelvtudományi Kutatóközpont Nyelvtechnológiai Kutatócsoportjának vezetője, Jakovác Antal fizikus, a Wigner Adat- és Számításintenzív Tudományok Kutatócsoport vezetője, Gáspári Zoltán bioinformatikus, a PPKE egyetemi tanára és Kizlinger Lilla, Ezüst Medve díjas színművész. Ha nem szeretnél lemaradni, iratkozz fel mielőbb a Qubit+-ra!

Az estet az Amundi Alapkezelő Zrt. támogatja. Amundi-befektetésekkel Te is részese lehetsz az AI-forradalomnak! (x)