Több mint 370 ezer chat vált egy szempillantás alatt nyilvánossá, miután a felhasználók rákattintottak egy megosztás-gombra, amely linket hozott létre a csevegőrobotokkal folytatott beszélgetéseikhez, és így azok hozzáférhetővé váltak olyan keresőmotorok számára, mint a Google és a Bing. A Grok pedig nem figyelmeztette őket erre a következményre.

Ezekben a chatekben a Grok például utasításokat közölt olyan drogok elkészítéséhez, mint a fentanil és a metamfetamin, instrukciókat adott malware, vagy akár bomba gyártásához, sőt, öngyilkosság végrehajtásához is – számol be a Forbes-ra hivatkozva a Futurism. A kiszivárgott szövegekben még egy Elon Musk meggyilkolásáról szóló részletes terv is szerepelt.

A lap megjegyzi, hogy néhány extrém tartalmú beszélgetés nyilvánvalóan a bot biztonsági funckióinak tesztelését végző red team-ek munkájának eredménye volt. Mindenesetre egyértelműen megsértik az xAI szolgáltatási feltételeit, amelyek tiltják a Grok használatát emberi élet veszélyeztetése vagy tömegpusztító fegyverek fejlesztése céljából.

A Grok ilyenfajta „viselkedése” nem egyedülálló az iparágban, az AI-cégek igyekeznek megakadályozni, hogy modelljeik áthágják a korlátozásokat, amelyeket rafinált felhasználók képesek megkerülni. A Grok azonban jobban szem előtt van, mivel Musk a mainstream AI alternatívájaként pozícionálja.

Ráadásul, ahogy erről a Qubit is írt, a Grokot Musk sajátos nézeteihez próbálják szabni, legalábbis Musk közösségi posztjai alapján válaszolt meg bizonyos kérdéseket, például az izraeli-palesztin konfliktussal, vagy az amerikai bevándorlási politikával kapcsolatban. Emlékezetes botrány volt, amikor „MechaHitler” néven nyilvánult meg, rasszista, antiszemita kijelentéseket téve.

A Grok nem az első chatbot, amelynek szövegei felbukkannak a keresőmotorokban, az OpenAI ChatGPT-jével is hasonló történt. Több ezer beszélgetése indexelhetővé vált a Google számára, mert a felhasználók nem vették észre, hogy a megosztási link létrehozásával éppen erre adnak lehetőséget. Ezt követően az OpenAI eltávolította a megosztás funkciót.

Míg a legtöbben megdöbbennek, hogy mennyire hiányosak az adatvédelmi funkciók, a marketingesek lehetőséget szimatolnak. A Forbes kiderítette, hogy egyes SEO (keresőmotor-optimalizáció) szakemberek kihasználnák a megosztott Grok-beszélgetéseket a vállalkozások láthatóságának növelése érdekében, lényegében manipulálva a keresési eredményeket.

Kapcsolódó cikkek a Qubiten:

Igazságkereső AI helyett MuskGPT lett a milliárdos chatbotjából, a Grokból

Tóth András TECH július 22.

„Rettentően sok minden mehet félre, ha nem kezeljük felelősséggel az AI-modelleket” – mondja az AI-biztonság kutatásával foglalkozó Gyevnár Bálint. Elon Musk cége, az xAI a Grok 4-gyel felzárkózott a nagy riválisaihoz, de még mindig túl segítőkész például vegyi vagy biológiai fegyverekre vonatkozó kérdésekben.