Algoritmusra bízták, ki kapjon az elsők között a vakcinából, a frontvonalban dolgozó orvosok kimaradtak

Nincsen jövőnk tudomány nélkül, nincsen Qubit nélkületek. Támogasd a munkánkat!

A Stanford Egyetem orvosi karához tartozó egészségügyi központot az Egyesült Államok legjobb kórházai között szokták emlegetni, az elmúlt napokban mégis egy kínos hiba, és az azt követő tüntetés miatt került a figyelem középpontjába. Az első 5000 stanfordi koronavírus-vakcina sorsát ugyanis egy algoritmusra bízta a kórház vezetése, és a gépi pontszámok alapján összeállt prioritási sorrend sokakat megdöbbentett.

A stanfordi rezidens orvosok például hiába dolgoznak a járvány kezdete óta a frontvonalban, nap mint nap kitéve magukat a fertőzés lehetőségének, a több mint 1300 rezidens közül összesen 7-en kerültek fel az ötezres listára, miközben irodai alkalmazottak és távmunkát végző orvosok is előrébb kerültek a rangsorban. Amikor december 18-án, pénteken nagy felhajtás közepette beadták az első oltásokat, több mint száz rezidens jelent meg tüntetni a döntés ellen.

A kórház vezetői a helyszínen elnézést kértek a fiatal orvosoktól, és „egy nagyon bonyolult algoritmusra” hárították a hiba elkövetését. „Az algoritmusunk, amelyen etikusok és a fertőzéses betegségek szakértői heteken át dolgoztak, nyilvánvalóan nem végzett jó munkát” – mondta a rezidenseknek a kórház járóbeteg-ellátását igazgató Tim Morrison.

Ez csak olaj volt a tűzre, hiszen már kedden felhívták a kórház vezetésének figyelmét arra, hogy valami baj van az algoritmussal, hiszen csak öt rezidens került fel a listára. Érdemi válasz vagy az algoritmus cseréje helyett különös alternatív megoldással igyekezték csillapítani a fiatal orvosok indulatait: megemelték a rezidensek számát a rangsorban, így az 5000 fős listán 5 helyett már nem kevesebb mint 7 rezidens szerepelt péntekre.

Rákenték a gépre

A milliárdos befektetőből a Szilícium-völgy egyik leghangosabb kritikusává vált Roger McNamee szerint „az algoritmusok egyik legvonzóbb tulajdonsága, hogy rájuk lehet hárítani a felelősséget a politikailag nem túl népszerű döntésekért.” Mások szerint azonban itt valójában szó sem volt arról, hogy algoritmusok döntöttek volna: az emberek eldöntötték a sorrendet, alkottak egy szabályrendszert a rangsor alátámasztására, és írtak rá egy egyszerű kódot, hogy az algoritmus végezze el a piszkos munkát.

Ha jobban megnézzük, ahogy az MIT Technology Review is tette, itt nem egy bonyolult, gépi tanulással felvértezett algoritmusról van szó, hanem egy szabályokra épülő képletről, amelynek egyetlen dolga, hogy bizonyos mutatók alapján prioritási sorrendet állítson fel arról, hogy a Stanford Egyetem orvosi karán kik kaphassák meg az elsők között a koronavírus-vakcinát. Három kritérium szerint rangsorolt: az alkalmazottak változói (életkor), a beosztás szerinti változók, valamint a kaliforniai közegészségügyi ajánlások alapján.

Forrás: Twitter / Karen Hao

A rendszer egyértelmű: mindenki kapott egy pontszámot (3,48 volt a maximum), és minél magasabb a pontszám, annál előrébb került az adott ember a prioritási sorrendben. Bár az életkorral együtt lineárisan nőtt az alkalmazottak pontszáma, extra pontot kaptak a 65 év fölöttiek és a 25 év alattiak is – így épp a rezidens orvosokat és a frontvonalban dolgozókat érte hátrány, akik általában 25 és 65 év közöttiek.

A beosztás szerinti változók nyomják a legtöbbet a latban. Az algoritmus figyelembe veszi, hogy milyen a COVID-19 előfordulása az adott alkalmazott munkakörében és osztályán, kétféleképp súlyozva – ha ez zavarosan hangzik, az nem véletlen, hiszen ezt a kritériumot a lap által megkérdezett szakértők sem tudták megfejteni, míg a Stanford nem válaszolt a lap kérdéseire. Emellett az is beleszámít a végső pontszámba, hogy az adott személy munkakörében mennyit tesztelik a dolgozókat, és ez hogyan aránylik az intézményben elvégzett összes teszthez.

A rezidensek szerint viszont éppen csak az nem számít az algoritmusnak, hogy ki mennyire van kitéve a vírusnak, mennyit érintkezik fertőzött betegekkel. Ráadásul mivel a fiatal orvosokra gyakran több részlegen is számítanak, így nem tartoznak egyetlen osztályhoz sem, az egyes osztályok covid-érintettségéért járó pontszámtól is elestek. A rezidensek végső pontszámát a harmadik kritérium, vagyis az állami ajánlások valószínűleg valamivel feljebb nyomták, de úgy tűnik, még ez sem volt elég.

Tüntetés a Stanford Egyetem kórházábanForrás: Twitter / rat king

A komplex algoritmusok botrányt szülnek

Szakértők szerint egyszerűen túlbonyolították az algoritmust a Stanfordon. Jeffrey Kahn, a Johns Hopkins Egyetem bioetikusa szerint minél több a kritérium, annál nagyobb támadási felületet nyitnak, hogy az érintettek megkérdőjelezzék a sorrendet. A Johns Hopkins Egyetemen egy 20 fős bizottság döntött az oltóanyag elosztásáról, és miután a bizottsági tagok számos szakmabeli (köztük egyetemi rezidensek) véleményét kikérték, végül két kritérium alapján rangsoroltak: munkakör és a covidnak való kitettség szerint. „Nagyon fontos, hogy az ilyen döntések átláthatók és nyilvánosak legyenek, és ne túl nehezen megfejthetők. Olyan kicsi a bizalom a járvány számos területén, nem szabad azt is eljátszanunk” – mondta Kahn.

A Stanford végül hivatalosan is bocsánatot kért az esetért, és megígérte, hogy átszervezi a vakcinaelosztási rendszerét. Hogy miként, azt egyelőre nem árulták el, az MIT Technology Review-hoz eljutott belső levelezésből viszont kiderül, hogy több egyetemi dolgozó eltörölné az algoritmust, és az egyes osztályvezetőkre bízná a döntéshozatalt.

Járvány, klímaváltozás, forradalmak – mindez csak három dermesztő arca annak a felbolydult világnak, ami ránk vár. Lesz még neki jó pár. Ha teheted, segítsd a munkánkat, mi megháláljuk a bizalmadat, és ebben a nagy zavarodottságban hitelesen, alaposan és közérthetően magyarázzuk el, hogy a legégetőbb kérdésekre milyen válaszokat adnak a sárgolyó legnagyobb elméi. Maradj velünk. Támogatom a Qubit szerkesztőségét!

Kapcsolódó cikkek a Qubiten: