Nem jött be az étkezési zavarosokat támogató dietetikus csetbot, a teljes átállás előtt kellett leállítani
- Link másolása
- X (Twitter)
- Tumblr
Az amerikai National Eating Disorder Association (NEDA) évekkel ezelőtt kezdett bele egy csetbot, a Tessa fejlesztésébe, ami dietetikai és pszichés tanácsadással támogathatja a lakosságot, mindazokat, akik nem tudnak vagy nem mernek személyesen segítséget kérni étkezési problémáikban. A szervezet eddig egy telefonos segélyvonalat is üzemeltetett, a mesterséges intelligenciával turbózott csetbot ezt egészítette ki, június elsejétől pedig át is vette volna a feladatokat.
Csakhogy mire eljött az átállási határidő, nemcsak a telefonvonalak szűntek meg, hanem a csetbotot is lelőtték. Az elmúlt egy héten ugyanis két olyan jól dokumentált eset is történt, amiben a mesterséges intelligencia kimondottan káros tanácsokat adott, írja az NBC News.
A szolgáltatásnak ugyanis az lett volna a feladata, hogy alapvetően egészséges, a pszichés problémákat nem mélyítő tippeket adjon, esetleg segítsen felismerni azt, amikor szakember bevonására van szükség. Ehelyett a csetbot alacsony kalóriatartalmú étrendet, a cukor elhagyását és más korlátozó magatartások bevezetését javasolta. Ezek a fogyásban kétségtelenül jól jöhetnek, azonban egy evészavaros személy számára csak még tovább mélyíthetik a problémát.
Épp ezért a NEDA úgy döntött, hogy bár éveket ölt a fejlesztésbe, most leállítja egy időre Tessát, a csetbotot. A fejlesztőkkel közösen pedig azon fognak dolgozni, hogy többé ne fordulhasson elő az, hogy olyan tanácsokat ad a gép, amik akár veszélyesek is lehetnek a felhasználók számára.
Kiderült az is, hogy az elmúlt időben megszaporodott a felhasználók száma és egyre több olyan beszélgetést is folytatott Tessa, amiben megpróbálták becsapni. A szervezet és a fejlesztők is a kivizsgálás mellett döntöttek, mert az eredeti zárt modellben nem szerepeltek olyan tanácsok, amiket most kritika ért.
Kapcsolódó cikkek a Qubiten:
Rászabadították az OpenAI nyelvi modelljét a dark webre
Eddig sem csak tudományos publikációkon tanították az algoritmust, de most azzal kísérleteznek, mi lesz vele, ha az internet legsötétebb bugyraiban merül el.
Dr. ChatGPT már itt kopogtat a rendelő ajtaján, de nem biztos, hogy azonnal be szabad engedni
Egy új magyar kutatás szerint a ChatGPT átlagban jobban diagnosztizál neurológiai eseteket, mint egy általános orvos, sőt a tanulmány egyik szerzője, Patai Roland szerint olyan ritka betegséget is felismert, amivel az emberi neurológusok nem boldogultak.
„Az írót nem a mesterséges intelligencia öli meg, hanem a TikTok és a YouTube”
Az ELTE és a DH-Lab digitális bölcsészei gőzerővel dolgoznak egy olyan korpusz összeállításán, aminek alapján a ChatGPT-hez hasonló magyar nyelvi modellt lehet létrehozni. Hogyan zajlik a fejlesztés, és miként lehet elérni, hogy az MI ne legyen kirekesztő, demagóg vagy sértő?