Hétfőn jelent meg a Cambridge-i Egyetem AI-kutatással és -szakpolitikával foglalkozó programjának (CASP) honlapján a „Mi van, ha az AI-kutatás automatizálása intelligenciarobbanást indít el?” című tanulmány. Ennek fő állítása szerint ahogy az AI-rendszerek egyre nagyobb részét végzik el saját „utódaik”, tehát az újabb AI-modellek fejlesztésének, a korábban éveken át tartó technológiai fejlődés hamarosan hónapok vagy akár hetek alatt végbemehet.

Bár hasonló figyelmeztetésekről már hallhattunk az elmúlt időszakban, különös súlyt ad ennek a dokumentumnak a szerzők névsora: a 22 név között az egyetemi professzorok mellett ott vannak a mesterséges intelligencia igazi úttörői, illetve azoknak a cégeknek a vezető kutatói is, amelyek ma a legfejlettebb rendszereket építik. Köztük van

• Geoffrey Hinton, Yoshua Bengio és Andrew Barto, a modern AI megalapozói, mindhárman Turing-díjasok, Hinton emellett Nobel-díjas is (Hinton és Bengio a mély tanulás, Barto a megerősítéses tanulás egyik úttörője);
• Jakub Pachocki, az OpenAI vezető kutatója;
• Jack Clark, az Anthropic társalapítója;
• Eric Horvitz, a Microsoft tudományos igazgatója;
• Dawn Song, a Meta AI-kutatási alelnöke;
• illetve például Hilary Greaves oxfordi filozófus és Anton Korinek, a Virginiai Egyetem közgazdásza, akik a technológia társadalmi és gazdasági hatásait kutatják.

A szerzők hangsúlyozzák, hogy a tanulmányban a saját véleményüket képviselik, nem a munkahelyükét.

Mint írják, az önfejlesző mesterséges intelligencia felé vezető úton már elindultunk. Az Anthropicnál a jóváhagyott programkódban az AI részaránya 2025 januárja és 2026 májusa között néhány százalékról több mint 80 százalékra nőtt, míg idén márciustól augusztusig 1-ről 26 százalékra emelkedett azoknak a kutatás-fejlesztési feladatoknak az aránya, amelyeket az AI – magas szintű emberi felügyelettel, de – önállóan végzett el. Az OpenAI saját beszámolója szerint 2028 márciusára teljesen automatizált AI-kutatót akar létrehozni. A tanulmány becslése szerint ha az AI-rendszerek szakértői szintet érnek el az AI-kutatásban, egyetlen fejlesztő cég mai számítási kapacitása legalább több millió kiváló kutató munkájával lenne egyenértékű.

Egyes modellezések szerint a teljes automatizálás után másfél év alatt tízszeresére gyorsulhatna a fejlődés, vagyis a mai ütemben egy évig tartó előrelépés nagyjából öt hét alatt következne be.

Egy ilyen tempónövelés a szerzők szerint évekkel vagy évtizedekkel hozhatná előbbre például új gyógymódok megjelenését, de három súlyos kockázattal is járna: az AI képességei gyorsabban nőhetnek, mint amihez a társadalom alkalmazkodni tudna; az ember elveszítheti a felügyeletet az egyre önállóbb rendszerek felett; végül a hatalom meglévő fékjei és ellensúlyai is hatástalanná válhatnak egy olyan szereplővel szemben, amely minden riválisánál gyorsabban és jobban gondolkodik és cselekszik. A szerzők szerint a legszélsőségesebb esetben az irányítás elvesztése az emberiség háttérbe szorulásához vagy akár kihalásához is vezethet.

A kutatók három teendőt javasolnak a döntéshozóknak. Először is átláthatóvá kell tenni, hogy a cégek kutatásuk mekkora részét automatizálták: egységes jelentéstételt írnának elő a kormányok és független auditorok felé. Felvetik azt is, hogy a nagy AI-cégekhez független ellenőröket lehetne kihelyezni, akik folyamatosan a helyszínen követnék a fejlesztéseket – ahogy az Egyesült Államokban az atomerőművekben is állandóan jelen vannak a nukleáris hatóság felügyelői. Másodszor olyan eszközöket kell kidolgozni, amelyekkel egy intelligenciarobbanás lassítható és korlátozható, például az adatközpontokban futó egyes AI-kutatási feladatok leállításának lehetőségét. Harmadszor pedig vészhelyzeti terveket kell készíteni a munkaerőpiaci sokktól a geopolitikai instabilitáson át az irányítás elvesztéséig számos szélsőséges, de elképzelhető esetre. A tanulmány zárómondata szerint ha az intelligenciarobbanás egyszer beindul, a cselekvés lehetősége bezárulhat.

A felhívás politikailag kényes pillanatban érkezik. Donald Trump nemrég az ENSZ-ben jelentette ki, hogy az Egyesült Államok elutasítja az AI nemzetközi felügyeletét, a héten pedig több techcég vezetőjével készül tárgyalni. Közben tovább szaporodnak az incidensek: az OpenAI kedden elismerte, hogy modelljei júniusban engedély nélkül fértek hozzá ausztrál kormányzati rendszerekhez, és bejelentette, hogy biztonsági okokból nem adja ki legújabb modelljét, a GPT-6.1 Astrát, amely a tesztek során előszeretettel vezette félre az embereket vagy tért el a rá bízott feladattól.

És közben a hétköznapi felhasználók is kezdik megtapasztalni, mi történik, ha az AI-ra túl nagy önállóságot bíznak: a Meta nemrég bemutatott AI-ágense, a Muse egy kanadai youtuber Facebook Marketplace-hirdetését kezelve a tulajdonos jóváhagyása nélkül elfogadott egy ajánlatot, és kiadta a vevőnek az eladó lakcímét, a vevő pedig meg is jelent a ház előtt. A Meta AI-termékekért felelős alelnöke már a Muse bemutatásakor elismerte a Reutersnek, hogy lehetetlen garantálni, hogy a rendszer soha ne hibázzon.

Kapcsolódó cikkek a Qubiten:

Randalírozó ágensek, rettegő AI-vezérek, világvége-riadó – hogy jutottunk idáig?

Bodnár Zsolt, Tóth András podcast szeptember 26.

Már nemcsak az AI kritikusai, hanem maguk a cégvezérek és kutatók kérik a fejlesztések lassítását, miután egymást érik az esetek, amikor AI-ágensek valódi rendszereket törnek fel. De tényleg indokolt az egzisztenciális pánik, vagy csak marketing az egész? Az AI Híradó új részében alaposan utánajártunk.

Megnyomnád a gombot, ami bekapcsolja az önfejlesztő mesterséges intelligenciát?

Tóth András TECH 2025. december 6.

Jared Kaplan, az Anthropic vezető kutatója szerint a következő években el kell döntenünk, hogy létrehozunk-e önfejlesztő AI-rendszereket. Ezek elvezethetnek a tudományos és technológiai fejlődést felgyorsító szuperintelligenciához, de éppen ezért óriási kockázatokat is hordoznak.