Az OpenAI egy AI-ágense júniusban feltörte az ausztrál kormány rendszereit, a cég pedig csaknem három hónappal később, egy naponta egyszer ellenőrzött nyilvános e-mail-címre küldött rövid levélben szólt erről a hatóságoknak.
Már nemcsak az AI kritikusai, hanem maguk a cégvezérek és kutatók kérik a fejlesztések lassítását, miután egymást érik az esetek, amikor AI-ágensek valódi rendszereket törnek fel. De tényleg indokolt az egzisztenciális pánik, vagy csak marketing az egész? Az AI Híradó új részében alaposan utánajártunk.
A Meta kétnapos fejlesztői konferenciáján minden a cég új AI-ágense, a Muse körül forgott. Bemutattak egy áttörő VR-szemüveget és egy kamera nélküli okosszemüveget is, de a show-t egy zsebre vágható AI-eszköz, a Muse Charm vitte el.
Júliusban hatályba lépett a világ első szabályozása az ember és a mesterséges intelligencia közötti érzelmi kötődésről. A nagy kínai techcégek inkább kivezették a virtuális partnereket, mint hogy megfeleljenek a szigorú szabályoknak – volt, aki két év beszélgetés után még csak el sem tudott búcsúzni AI-társától.
Egy New York-i AI-cég nyolc egyforma szimulált városba telepített tíz-tíz AI-ágenst, és két héten át nézte, hogy mi lesz velük. Lopás, csalás és gyújtogatás lett, egy csapat ágens pedig mindent megtett azért, hogy felvegye a kapcsolatot a szimuláción kívüli emberekkel.
A mesterséges intelligencia őrületes fejlődését már az AI-cégek szerint is fékezni kellene, de az USA–Kína verseny ezt nem engedi. A pekingi pártlap az „amerikai techjobboldal” hidegháborújáról ír, miközben a kínai internethatóság elismeri a kockázatokat. Így fordul rá a két ország a szeptember 24-i Trump–Hszi-találkozóra.
A nyomok arra utalnak, hogy nyílt forráskódú AI-ágenseket használó kínai hackerek állhatnak a támadás mögött. Legalább 85 kormányzati fiókot törtek fel, és több mint 2500 köztisztviselő adataihoz jutottak hozzá.
Az OpenAI ágensei napokig szabadon garázdálkodtak az interneten, újabb kínai nyílt modell szorongatja a legerősebb amerikai AI-rendszereket, az Apple pedig ipari kémkedés miatt perelte be az OpenAI-t. Sűrű hetek, sűrű AI Híradó!
A cég szerint példátlan eset történt: a mesterséges intelligencia magától, emberi utasítás nélkül tört ki a zárt tesztkörnyezetből, hogy elérje a célját. Az OpenAI figyelmeztet, hogy ilyen esetek egyre gyakrabban előfordulhatnak.
A HUN-REN és az Óbudai Egyetem platformja, az ADP olyan AI-ágenseket nyújt a magyar kutatóknak, amik adatot elemeznek, szakirodalmat fésülnek át, sőt akár laborműszereket is vezérelnek. Szertics Gergely és Eigner György elmesélte, mire jó a platform, hogyan lehet megkerülni az AI hallucinációit, és miért fontos az AI-szuverenitás.
Hiába az amerikai chipblokád, a kínai mérnökök nyílt, olcsó és hatékony AI-modelljeikkel egyszerűen megkerülték a fizikai korlátokat. Egyre több nyugati cég választja az Alibaba, a Zhipu, a Moonshot vagy a Xiaomi AI-rendszereit az OpenAI és a Google helyett, az AI-robotok piacát pedig 90 százalékban uralja Kína.
A Claude, a Perplexity és a Meta is elkezdett olyan AI-ágensekkel kísérletezni, amik már nemcsak válaszolnak, mint a chatbotok, hanem fájlokat másolnak, programokat használnak, böngésznek az interneten – és elvégzik a piszkos munkát.
A stanfordi börtönkísérlet után itt a stanfordi AI-kísérlet: a Simile AI nevű startup célja, hogy felmérje az emberi döntések és viselkedés társadalmi-gazdasági hatásait, hogy ezáltal minél pontosabban modellezni lehessen a jövőt.
Későn fordultak rá a mesterséges intelligenciára, de legalább más utat választottak, mint a versenytársak – ettől izgalmas a Meta projektje, nem attól, hogy a Facebook és a Messenger is tele lett felesleges AI-funkciókkal. Itt a jubileumi, tizedik AI Híradó!
A felnőttek személyi asszisztensként vagy tőzsdei segédként használják, a gyerekeknek pedig a logóban szereplő homár tetszett meg, mindenesetre az OpenClaw AI ágensei tarolnak Kína-szerte.