A Nobel-díjas Geoffrey Hinton szerint, aki az AI-ipart átalakító neurális hálózatok úttörő szakembere, és akit gyakorta „az AI keresztapjának” neveznek, a mesterséges intelligenciát együttérző „anyai ösztönökkel” kell ellátni, hogy megmentsük az emberiséget a „gonosz” AI-tól.

Bár az ideghálózatokkal kapcsolatos munkája hozzájárult a Szilícium-völgyben manapság uralkodó nagy nyelvi modellek (large language model, LLM) megjelenéséhez, Hinton mostanában inkább az AI-jal kapcsolatos figyelmeztetéseiről, jóslatairól ismert. Úgy véli, hogy igenis esély van arra, hogy a szuperintelligens AI kiirtja az emberiséget, és ennek a véleményének rendre hangot is ad.

A CNN beszámolójára hivatkozva a Futurism arról ír, szerint Hinton egy Las Vegas-i mesterséges intelligencia konferencián azt mondta, hogy a mesterséges intelligencia egyszerűen túl okos lesz ahhoz, hogy „alávesse magát” az ember dominanciájának. Méghozzá mindez elég hamar bekövetkezhet, a szuperintelligenciát már 5-20 éven belül elérheti az AI.

Az AI ágensek „ha okosak, nagyon gyorsan két célt fognak kidolgozni” – mondta Hinton a konferencián. „Az egyik az, hogy életben maradjanak, a másik, hogy nagyobb kontrollt gyakorolhassanak.” Hinton ezért azt tanácsolta, hogy válasszunk más megközelítést: az AI-ágenseket anyaszerű figurákká kellene alakítani, hogy azok „ténylegesen gondoskodjanak” az emberről, még akkor is, ha a technológia hatalmasabb és okosabb lesz, mint az ember.

„A megfelelő modell az egyetlen modellünk, amelyben egy intelligensebbet egy kevésbé intelligens irányít” – idézi Hintont a CNN –, azaz „egy anya, akit a csecsemője irányít.”

„Ez az egyetlen jó eredmény. Ha nem szülőként viselkedik velem, akkor helyettesíteni fog” – folytatta a tudós. Szerinte azonban „a szuperintelligens, gondoskodó AI-anyák többsége nem akar majd megszabadulni az anyai ösztöntől, mert nem akarja a halálunkat.”

Hinton elmélete azonban nemcsak különös, de úgy tűnik, tudományos alapja sincs. Megvan viszont a maga sajátos története – kommentál a Futurism. Az „anyai ösztön” fogalma ugyanis azt sugallja, hogy a nők egyfajta velük született, misztikus gondoskodó tulajdonsággal rendelkeznek, amely automatikusan működésbe lép, amikor a gyerekük megszületik. A kutatások szerint a terhesség és a szülőség is változásokat idéz elő az agyban, ugyanakkor a nők szülés utáni tapasztalatai jelentősen eltérnek egymástól.

Sok nő küzd a szülés utáni mentális állapotaival és nem feltétlenül alakít ki azonnali kapcsolódást újszülött gyerekéhez. A kutatások szerint az anya-gyerek kapcsolat gyakorta tanult viselkedés, amelyhez idő kell, nem pedig ösztönös és azonnali. Azt az elképzelést pedig, hogy az anyai ösztön valamiféle belső biológiai igazság lenne, leginkább férfiak próbálták elterjeszteni, miközben a szakértők vitatták, és jobbára a vallási sztereotípiákban, az eugenikában és a nemi előítéletekben gyökerezik.

Nem arról van szó, hogy az anyák (illetve a szülők általában) ne szeretnék a gyereküket és ne akarnák óvni, védeni. Csakhogy az a gondolat, hogy ezt a bizonyos anyai ösztönt valamilyen mérhető módon szuperintelligens AI-rendszerekbe be tudnánk építeni, már eleve feltételezi, hogy létezik ilyen.

A CNN szerint Hinton azt is mondta, hogy az anyák nem pusztán az ösztöneikre hagyatkoznak, hanem társadalmi nyomás is nehezedik rájuk, ami arra irányul, hogy gondoskodjanak a gyerekükről. Társadalmi nyomás nagyon is létezik, ugyanakkor az emberi cselekvések számos más aspektusára is kihat, nem csupán az anyaságra, a szülőségre. Azt is fontos hangsúlyozni a lap szerint, hogy a szuperintelligencia, vagyis az emberi agyat minden tekintetben felülmúló mesterséges intelligencia eljövetele egyelőre elméleti lehetőség, és ennél sokkal közelebbi kockázatok is vannak, például, hogy az AI a mi már meglévő társadalmi hierarchiáinkat, beidegződéseinket viszi tovább.

Kapcsolódó cikkek a Qubiten:

Tényleg elpusztítja az emberiséget a mesterséges intelligencia?

Dippold Ádám TECH 2021. augusztus 12.

A programozókban, fizikusokban, mérnökökben, filozófusokban és a Terminátor rajongóiban egyre gyakrabban felmerül a kérdés, hogy valóban létrejön-e egy olyan szuperintelligencia, aminek már nem tudunk parancsolni. Az emberi hülyeség természetének ismeretében úgy tűnik, egyelőre nagyobb az esély arra, hogy az emberiség maga okozza saját vesztét, mint arra, hogy az elszabadult mesterséges intelligencia végez vele.

Tud hazudni a mesterséges intelligencia?

Dippold Ádám tudomány 2024. szeptember 19.

Geoffrey Hinton, a mesterséges intelligencia egyik atyja és legnagyobb kritikusa szerint elképzelhető, hogy a robotok megtanulnak hazudni és manipulálni az embereket, és ha ez így lesz, ki tudnak bújni majd a szabályok alól is. De tud egyáltalán hazudni egy robot?

Pléh Csaba: A ChatGPT csak kettest kapna, ha nálam vizsgázna

CEU Határtalan tudás podcast 2024. január 19.

Létezhet-e egyszerre többfajta igazság? Miért versenyezhet 2024-ben az USA elnökségéért két hülyén viselkedő öregember? A Határtalan tudásban, a CEU és a Qubit közös podcastjának legújabb adásában Pléh Csaba akadémikussal, kognitív kutatóval Fábri György, az ELTE Pedagógiai és Pszichológiai Kar docense beszélget.