Egy titkos, az emberiségre veszélyesnek ítélt OpenAI-projekt állhatott Sam Altman kirúgása mögött
Ennek a cikknek az élesítésekor, csütörtök kora délután úgy áll a helyzet, hogy Sam Altman jelenleg az OpenAI vezérigazgatója. Ezt azért fontos így kiemelni, mert a cégnél az elmúlt napokban zajló káosz láttán egyáltalán nem biztos, hogy ez sokáig így is marad. A Reuters most forrásai alapján azt állítja, a mesterséges intelligencia (AI) területén vezető, többek között a ChatGPT-t és a DALL-E képgenerátort fejlesztő cég viharos napjai mögött egy olyan felfedezés állt, ami a cég dolgozói szerint veszélybe sodorhatja az emberiséget.
De előtte gyorsan foglaljuk össze, mi történt az elmúlt napokban.
- Az OpenAI november 17-én, pénteken bejelentette, hogy az igazgatótanács bizalomhiány miatt kirúgta Sam Altman vezérigazgatót, a tanácsból pedig eltávolítják alapítótársát, Greg Brockmant.
- Ennek hatására nemcsak Brockman nyújtotta be a felmondását, de a cég három fontos AI-kutatója is, többek között az AI kockázatainak felmérését vezető Aleksander Madry.
- A hétvégén tárgyalások folytak Altman visszahívásáról a céghez, majd amikor ez meghiúsult, kinevezték átmeneti vezérigazgatónak a Twitch társalapítóját, Emmett Sheart.
- Hétfőn az OpenAI legnagyobb befektetője és partnere, a Microsoft bejelentette, hogy Altman és Brockman is csatlakozik a cég új AI-kutató csapatához, és hangsúlyozta, hogy a két cég között továbbra is harmonikus a viszony.
- Miután az OpenAI 770 dolgozójából 738-an aláírták azt a nyílt levelet, miszerint ha az igazgatótanács nem veszi vissza a két alapítót, ők is felmondanak, Altman és Brockman kedden visszatért eredeti pozíciójába, és a vezetőség helyett az igazgatótanács szerveződött át.
De mégis mi lehetett ennek az egész kavarásnak a hátterében? A Reuters forrásai szerint Altman kírúgása előtt a cég több kutatója levelet írt az igazgatótanácsnak, amiben arra panaszkodtak, hogy a vezérigazgató a fejlesztések kereskedelmi szempontjait tartja inkább szem előtt, és nem foglalkozik eleget a lehetséges következményeikkel. Emiatt levelet írni most egy olyan titkos, Q* néven illetett projekt miatt vált sürgetővé, ami a kutatók szerint a mesterséges általános intelligencia (AGI) eljövetelét vetítheti előre.
AGI alatt olyan mesterséges intelligenciát értenek, amely már nemcsak egy-egy meghatározott feladatra (például képgenerálásra, csetelésre, vagy ezek bizonyos kombinációira) alkalmas, hanem bármit elvégez, amire emberek képesek, akár autonóm módon is. A Q* projektben használt új AI-modell a Reuters forrásai szerint olyan matematikai feladványokat is meg tud oldani, amilyenek eddig kifogtak a nagy nyelvi modelleken.
Ahogy a ChatGPT használata közben is könnyen kiderülhet, a jelenlegi nyelvi modellek arra jók igazán, hogy statisztikai alapon megjósolják, milyen szavak következnek egymás után – ezért gyakran ugyanarra a kérdésre többféle választ generál. A matematikában viszont egy kérdésre csak egy válasz, egy megoldás létezik, ezért másfajta intelligenciát kell igénybe vennie egy modellnek – és itt nem egy számológép képességeire kell gondolni, hiszen az is csak meghatározott műveletekre képes, míg az AGI-nak általánosításra, elméletek megtanulására és megértésére van szüksége.
A Q* projektről az OpenAI nem osztott meg semmilyen információt, de hogy valami készül a cégnél, az Altman legutóbbi beszédeiből is kiderült: a vezérigazgató jelentős fejlesztésekről, fordulópontokról, áttörésekről beszélt, amiket az elmúlt hetekben értek el, de ezek részleteit még nem árulta el, ami sokakban azt az érzetet keltette, mintha az AGI-hoz közelítő megoldásokról lenne szó.
Kapcsolódó cikkek a Qubiten:
