A techcégek túl gyorsan vágtak bele a chatbotok webes keresőként történő felhasználásába – mondta Carissa Véliz, az Oxfordi Egyetem kutatója, aki szerint a mesterséges intelligencia alkalmazása ezen a területen túl sok mindenen bukhat meg, és túl nagy esélyük van a tévedésre ahhoz, hogy biztonságosan lehessen használni őket. Az első példára nem is kellett sokat várni: a Google mesterséges intelligenciája, a Bard már azelőtt elkövette az első bakiját, hogy élesben elindult volna.

A hibát a Google blogján és a Twitteren, a Bard beharangozásakor tették közzé, amikor azt a kérdést tették fel a mesterséges intelligenciának, hogy a James Webb milyen olyan felfedezéseket tett, amikről egy kilencéves gyerek is szívesen hallana. A Bard első két válasza még elég szórakoztatónak is tűnik: a zöldborsónak becézett galaxisok felfedezése és a 13 millió éves galaxisokról szóló felvételek is izgalmasak, a harmadik válasz viszont tévedés.

A válasz szerint a JWST volt az első olyan műszer, amely egy Naprendszeren kívüli bolygóról készített felvételeket. Ahogyan erre Bruce Macintosh, a Kaliforniai Egyetemi Obszervatóriumok igazgatója is felhívta rá a figyelmet, valójában ezek a James Webb fellövése előtt 14 évvel készültek, és ő maga is a felvételeket készítő kutatók között szerepelt.

Gyorsan, de pontatlanul

A New Scientistnek nyilatkozó szakértők szerint a hibának az lehet az oka, hogy a chatbotok nem a pontosságuk alapján határozzák meg, hogy milyen választ adnak, hanem statisztikai alapon, ez pedig nem elég az üdvösséghez. Véliz szerint a Bardot és a többi mesterséges intelligenciát is arra fejlesztették ki, hogy a kérdésekre plauzibilis válaszokat adjanak, azok igazságtartalmát nem feltétlenül tudják ellenőrizni.

Mióta az OpenAI november végén megjelentette a ChatGPT-t, a Google először sietett megjegyezni, hogy az utóbbi idők AI-eszközei javarészt a Google 2017-es tanulmányára épültek, amelyben bemutatták a transzfer gépi tanulási modellt, majd most hétfőn azt is bejelentették, hogy elindítják a cég saját chatbotját, a most bakizó Bardot. A kínai Baidu sem akart lemaradni, nemrégiben ők is bejelentették, hogy a Binghez és a Chromehoz hasonlóan ők is chatbot-alapú integrált keresőrendszer bevezetésén dolgoznak.

Bár élesben még egyik szolgáltatás sem elérhető, a véletlenül közzétett baki Véliz szerint azt is jól mutatja, hogy még maguk a fejlesztők sem állnak készen az új keresőrendszerek bevezetésére, a nagyközönségről nem is beszélve, de a piaci érdekek mindent felülírnak: az jár a legjobban, aki először képes bevetni a saját mindentudó chatbotját, csak lehet, hogy az minden lesz, csak épp mindentudó nem.

Kapcsolódó cikkek a Qubiten: