Nem jött be az étkezési zavarosokat támogató dietetikus csetbot, a teljes átállás előtt kellett leállítani
Az amerikai National Eating Disorder Association (NEDA) évekkel ezelőtt kezdett bele egy csetbot, a Tessa fejlesztésébe, ami dietetikai és pszichés tanácsadással támogathatja a lakosságot, mindazokat, akik nem tudnak vagy nem mernek személyesen segítséget kérni étkezési problémáikban. A szervezet eddig egy telefonos segélyvonalat is üzemeltetett, a mesterséges intelligenciával turbózott csetbot ezt egészítette ki, június elsejétől pedig át is vette volna a feladatokat.
Csakhogy mire eljött az átállási határidő, nemcsak a telefonvonalak szűntek meg, hanem a csetbotot is lelőtték. Az elmúlt egy héten ugyanis két olyan jól dokumentált eset is történt, amiben a mesterséges intelligencia kimondottan káros tanácsokat adott, írja az NBC News.
A szolgáltatásnak ugyanis az lett volna a feladata, hogy alapvetően egészséges, a pszichés problémákat nem mélyítő tippeket adjon, esetleg segítsen felismerni azt, amikor szakember bevonására van szükség. Ehelyett a csetbot alacsony kalóriatartalmú étrendet, a cukor elhagyását és más korlátozó magatartások bevezetését javasolta. Ezek a fogyásban kétségtelenül jól jöhetnek, azonban egy evészavaros személy számára csak még tovább mélyíthetik a problémát.
Épp ezért a NEDA úgy döntött, hogy bár éveket ölt a fejlesztésbe, most leállítja egy időre Tessát, a csetbotot. A fejlesztőkkel közösen pedig azon fognak dolgozni, hogy többé ne fordulhasson elő az, hogy olyan tanácsokat ad a gép, amik akár veszélyesek is lehetnek a felhasználók számára.
Kiderült az is, hogy az elmúlt időben megszaporodott a felhasználók száma és egyre több olyan beszélgetést is folytatott Tessa, amiben megpróbálták becsapni. A szervezet és a fejlesztők is a kivizsgálás mellett döntöttek, mert az eredeti zárt modellben nem szerepeltek olyan tanácsok, amiket most kritika ért.
Kapcsolódó cikkek a Qubiten: