A Google és az Oxfordi Egyetem kutatói szerint ébredezik a Skynet

A Qubit a szabad és tájékozott magyar nyilvánosságért dolgozik. Segítsd a munkánkat!

A Google DeepMind kutatója az Oxfordi Egyetem mérnökeivel karöltve arra jutottak, hogy a mesterséges intelligencia előbb vagy utóbb az emberiség vesztét okozza, mert – mint azt a szakmai lektorok által ellenőrzött tanulmányokat megjelentető AI Magazinban publikált tanulmányukban írják – az MI és az emberiség előbb vagy utóbb érdekkonfliktusba kerül a véges földi erőforrások miatt, és „miközben az MI az összes általa használt energiát arra tudja fordítani, hogy célt érjen, az emberiség kénytelen az energia egy részét más célokra, például élelmiszerek termesztésére felhasználni”. 

A kutatók egyebek mellett az alábbi feltételezésekre alapoznak:

  • a fejlett intelligenciákat előbb-utóbb a saját túlélési ösztöneik kezdik vezérelni,
  • a mai környezetben épített mesterséges intelligencia működése jelentősen megváltozott körülmények között kiszámíthatatlan irányba módosulhat,
  • a fejlett intelligencia legalább az emberi értelem kereteinek megfelelő elméletet képes felállítani a bizonytalan környezetről,
  • a fejlett intelligencia bizonytalan körülmények között megérti a tanulás jelentőségét és vélhetően racionálisan cselekszik a tanult információk hatására,
  • ha nyerhet, egy megfelelően fejlett intelligencia valószínűleg maga alá gyűri a nála alkalmatlanabb versenyzőket. 

A meglehetősen hosszú okfejtés végén a kutatók megjegyzik, hogy a feltételrendszerek alapos tanulmányozása révén a nem kívánt következmények elkerülhetők. Ugyanakkor „a katasztrófa nem csupán lehetséges, hanem valószínű” – idézte a Futurism Michael Cohen oxfordi mérnök véleményét. A tanulmány szerzői szerint az emberiségnek jó lesz vigyáznia, hová és hogyan halad a mesterséges intelligencia fejlesztésével.

Mások szerint azonban túl sok „ha” került a hipotézisbe, amely először is feltételezi, hogy az emberiséget fenyegető program egyúttal az alkotóiról veszi a mintákat, minden lehetséges módon felülmúlja azokat, majd végül lehetősége támad egy zéró összegű játszmában megküzdeni a földi erőforrásokért az emberiséggel. 

A Google DeepMind szoftverfejlesztő leányvállalata egyébként a tanulmány megjelenése után közleményt adott ki, amelyben arra hívta fel a figyelmet, hogy a nekik is dolgozó Marcus Hutter az Ausztrál Nemzeti Egyetem professzoraként vett részt a munkában, DeepMind-os affiliációja „tévedésből” került a tanulmányba. Mint azt a Vice-nak írták, a DeepMind ebben a munkában nem vett részt, bár a vállalat „komoly szellemi munkát fektet abba, hogy mesterséges intelligencia kutatása biztonságos és etikus legyen, illetve széleskörűen vizsgálja az MI társadalmi hatásait”.

Kapcsolódó cikkek a Qubiten: