Bevezették a ChatGPT gyerekvédelmi funkcióját

A ChatGPT-t fejlesztő OpenAI mától bevezeti a 13-18 évesek védelmére létrehozott biztonsági beállításokat. Az új funkció alkalmas lesz a szülők és a rendőrség értesítésére, ha tinédzserek önsértéssel vagy öngyilkossággal kapcsolatos gondolatokat osztanak meg az alkalmazással. Ezeket a beszélgetéseket a ChatGPT egy emberekből álló moderátorcsoportnak továbbítja, akik eldöntik, hogy bevonják-e a szülőket a folyamatba.

Az OpenAI ifjúsági jóllétért felelős vezetője, Lauren Haber Jonas a Wirednek elmondta, hogy „minden lehetséges módon kapcsolatba fogunk lépni a szülőkkel”. A gyerekek aggasztó viselkedéséről SMS-ben vagy a ChatGPT alkalmazásban kapnak majd üzenetet a szülők a beszélgetéstől számított néhány órán belül. Ugyanakkor ezek a figyelmeztetések nem fognak idézeteket vagy konkrét részleteket tartalmazni a gyerekek üzeneteiből.

Az új funkció bevezetésével a szülők további korlátozásokat alkalmazhatnak a tinédzserek ChatGPT-használatára: korlátozhatják az érzékeny tartalmak generálását, beállíthatnak úgynevezett csendes időszakokat, amikor a gyerekek nem tudják használni az alkalmazást, illetve kikapcsolhatják a chatbot memóriáját, hogy a tinédzserek információiból ne tanulhasson a modell. Ezeket az új használati feltételeket azután frissítette a mesterségesintelligencia-fejlesztéssel foglalkozó vállalat, hogy szülők petíciót kezdeményeztek egy kiskorú öngyilkossága után, akit a ChatGPT biztatott az önsértésre.

A biztonsági funkciók beállításához össze kell kapcsolni a kamasz és a szülő felhasználói fiókját. Ehhez a szülő is küldhet meghívót a gyerekének, és a tinédzser is kezdeményezheti a folyamatot. Sam Altman, az OpenAI vezérigazgatója elmondta, hogy bár a kiskorúak védelmére bevezették a biztonsági funkciókat, az adatvédelmi irányelvek miatt nem valószínű, hogy a felnőtt felhasználóknak is képes lesz a vállalat hasonló szolgáltatásokat biztosítani. Ráadásul az is kérdéses, hogy az új gyakorlat hogyan fog megvalósulni a hatóságok és a szülők bevonásával globálisan.