A mesterséges intelligencia rosszabb egészségügyi ellátátásban részesítené a színes bőrűeket, mint a fehéreket
A mesterséges intelligencia egyre jobb diagnoszta hírében áll, de hiába dicsekedhet egyre nagyobb pontossággal a program, fennáll a veszélye, hogy előítéletes lesz: egy a Nature-ben megjelent tanulmány szerint bőrszín alapján is szelektálhat, így a színes bőrűek rosszabb ellátáshoz juthatnak, mint a fehérek. A program nemcsak bőrszín, hanem nem alapján is előítéletes: arra ugyan alkalmas, hogy könnyítsen az orvosok és nővérek adminisztratív terhein, de arra nem, hogy empatikusan viselkedjen.
A kutatók által vizsgált algoritmust már széles körben alkalmazzák is: a program a kezelések költsége alapján próbálja megítélni a probléma súlyosságát, így annak, akinek a korábbi kezelései nem kerültek olyan sokba, a problémáját is kevésbé súlyosnak ítéli. A probléma milliókat érinthet: Ziad Obermeyer, a kutatás vezetője szerint az Egyesült Államokban majdnem mindegyik nagyobb egészségügyi intézmény használja az algoritmust, de a biztosítók és hasonló cégek is alkalmazzák.
Szegényen is lehet betegnek lenni
Obermeyer szerint elsőre logikusnak tűnik, hogy az egészségügyi költségek alapján próbálják megítélni, hogy ki mennyire beteg: ide tartozik az ellátórendszerrel szembeni bizalmatlanság vagy bizalom, de a vagyoni helyzet is. Nem mindegy például, hogy valakinek szabadságot kell-e kivennie egy vizsgálathoz, ahogy az sem, hogy milyen költségekkel jár az ellátás. Ha a betegség költségeit veszik alapul, az algoritmus előresorolja azt, akinek az ellátása többe került – így pedig háttérbe szorulnak azok, akik különben betegebbek, de szegényebbek is.
A kutató szerint nem a költségeket, hanem a várható egészségügyi következményeket kellene előtérbe helyezni: azt figyelték meg, hogy ha nem az ellátás összköltségét veszik a számítás alapjául, hanem csak az ellátás egy bizonyos szegmensének a költségeit, máris csökken az egyenlőtlenség.
Az algoritmus jelenleg körülbelül 200 millió ember ellátásában vesz részt, a jelenlegi ellátórendszerben pedig a tanulmány adatai szerint a rászoruló fekete betegeknek mindössze a 17,7 százaléka kap csak kiemelt ellátást – a kutatók szerint ez az arány az algoritmus finomhangolásával 46,5 százalékra emelkedhetne.
Gerard Brogan, a National Nurses United amerikai nővérszervezet igazgatója szerint az egészségügy iparrá válásával egyre kevesebb mód van arra, hogy mindenki személyre szabott ellátást kapjon, de az ellátás nem csak a matekról szól: lehet, hogy a számítógép megveri az embert sakkban, de ahogy fogalmazott, arra még nem képes, hogy fogja a beteg kezét.