Az OpenAI egy AI-ágense júniusban feltörte az ausztrál kormány rendszereit, a cég pedig csaknem három hónappal később, egy naponta egyszer ellenőrzött nyilvános e-mail-címre küldött rövid levélben szólt erről a hatóságoknak.
Már nemcsak az AI kritikusai, hanem maguk a cégvezérek és kutatók kérik a fejlesztések lassítását, miután egymást érik az esetek, amikor AI-ágensek valódi rendszereket törnek fel. De tényleg indokolt az egzisztenciális pánik, vagy csak marketing az egész? Az AI Híradó új részében alaposan utánajártunk.
Egy New York-i AI-cég nyolc egyforma szimulált városba telepített tíz-tíz AI-ágenst, és két héten át nézte, hogy mi lesz velük. Lopás, csalás és gyújtogatás lett, egy csapat ágens pedig mindent megtett azért, hogy felvegye a kapcsolatot a szimuláción kívüli emberekkel.
A mesterséges intelligencia őrületes fejlődését már az AI-cégek szerint is fékezni kellene, de az USA–Kína verseny ezt nem engedi. A pekingi pártlap az „amerikai techjobboldal” hidegháborújáról ír, miközben a kínai internethatóság elismeri a kockázatokat. Így fordul rá a két ország a szeptember 24-i Trump–Hszi-találkozóra.
A nyomok arra utalnak, hogy nyílt forráskódú AI-ágenseket használó kínai hackerek állhatnak a támadás mögött. Legalább 85 kormányzati fiókot törtek fel, és több mint 2500 köztisztviselő adataihoz jutottak hozzá.
A cég szerint példátlan eset történt: a mesterséges intelligencia magától, emberi utasítás nélkül tört ki a zárt tesztkörnyezetből, hogy elérje a célját. Az OpenAI figyelmeztet, hogy ilyen esetek egyre gyakrabban előfordulhatnak.
A HUN-REN és az Óbudai Egyetem platformja, az ADP olyan AI-ágenseket nyújt a magyar kutatóknak, amik adatot elemeznek, szakirodalmat fésülnek át, sőt akár laborműszereket is vezérelnek. Szertics Gergely és Eigner György elmesélte, mire jó a platform, hogyan lehet megkerülni az AI hallucinációit, és miért fontos az AI-szuverenitás.
Gyevnár Bálint és kollégái kimutatták, hogy az internetre feltöltött, manipulált adathalmazokkal félrevezethetők a tudományos kutatásokhoz használt AI-ágensek.
Hiába az amerikai chipblokád, a kínai mérnökök nyílt, olcsó és hatékony AI-modelljeikkel egyszerűen megkerülték a fizikai korlátokat. Egyre több nyugati cég választja az Alibaba, a Zhipu, a Moonshot vagy a Xiaomi AI-rendszereit az OpenAI és a Google helyett, az AI-robotok piacát pedig 90 százalékban uralja Kína.
A Claude, a Perplexity és a Meta is elkezdett olyan AI-ágensekkel kísérletezni, amik már nemcsak válaszolnak, mint a chatbotok, hanem fájlokat másolnak, programokat használnak, böngésznek az interneten – és elvégzik a piszkos munkát.
A stanfordi börtönkísérlet után itt a stanfordi AI-kísérlet: a Simile AI nevű startup célja, hogy felmérje az emberi döntések és viselkedés társadalmi-gazdasági hatásait, hogy ezáltal minél pontosabban modellezni lehessen a jövőt.
Százmillió dollár és öt-tíz év kellene a szimulátor megalkotásához, amelyben a világ több millió vállalata AI-ágensként jelenne meg, és élethűen jelezné előre a gazdasági katasztrófákat.
Elon Musk a szingularitás kezdetét, mások az internet halálát látták a Moltbookban, az AI-ágenseknek szánt közösségi oldalban, ahol a botok saját létezésükről elmélkednek. Aztán kiderült, hogy a platformon nagyon is jelen vannak emberek.
Az ember által megadott cél eléréséért dolgozó AI-ágensek fontos lépést jelentenek a mesterséges általános intelligencia (AGI) felé, de rengeteg a kockázat – mondja Gyevnár Bálint, az Edinburgh-i Egyetem kutatója.
Könyvrendeléssel, prezentációgyártással és aksivásárlással teszteltük az OpenAI júliusban bemutatott ágensét, ami gyakran hibázik, de annál látványosabban végzi a dolgát.