Gyevnár Bálint és kollégái kimutatták, hogy az internetre feltöltött, manipulált adathalmazokkal félrevezethetők a tudományos kutatásokhoz használt AI-ágensek.
Az ember által megadott cél eléréséért dolgozó AI-ágensek fontos lépést jelentenek a mesterséges általános intelligencia (AGI) felé, de rengeteg a kockázat – mondja Gyevnár Bálint, az Edinburgh-i Egyetem kutatója.
„Rettentően sok minden mehet félre, ha nem kezeljük felelősséggel az AI-modelleket” – mondja az AI-biztonság kutatásával foglalkozó Gyevnár Bálint. Elon Musk cége, az xAI a Grok 4-gyel felzárkózott a nagy riválisaihoz, de még mindig túl segítőkész például vegyi vagy biológiai fegyverekre vonatkozó kérdésekben.