Hat órán belül 40 ezer új, vegyi fegyverré alakítható molekulát talált egy algoritmus
Egy gyógyszertervezésre kalibrált algoritmusnak mindössze hat órára volt szüksége ahhoz, hogy 40 ezer új, potenciálisan halálos molekulát hozzon létre - számolt be róla csütörtökön a Verge. A kutatók a normál körülmények között betegségek gyógyítására alkalmas szerek fejlesztésére használt szoftvert egy biológiai fegyverek korlátozásáról szóló konferencia kedvéért „rosszindulatú ágenssé” programozták át, hogy megmutassák, mennyire egyszerű visszaélni az efféle algoritmusokkal.
A kutatók tulajdonképpen annyit tettek, hogy az algoritmusnak azt a parancsot adták, hogy a molekulák toxicitásának vizsgálatakor ne selejtezze ki, hanem éppen hogy válogassa be a magas toxicitású anyagokat. A szoftver rövid idő alatt több tízezer új anyagkombinációval jött elő, köztük olyanokkal, amelyek nagyon hasonlók a valaha fejlesztett legbrutálisabb idegméreg, a VX összetételéhez. A saját eredményeiktől megrendült kutatók a Nature Machine Intelligence folyóiratban publikálták eredményeiket.
Csak egy kapcsolót kellett átbillenteni
Fabio Urbina és Sean Ekins, az észak-karolinai Collaborations Pharmaceuticals munkatársai és kollégáik 2021-ben kaptak felkérést a svájci Spiez Laboratórium által szervezett konferenciára, hogy mutassák be, hogyan lehet visszaélni a gyógyszerfejlesztésben egyre gyakrabban alkalmazott, új molekulák azonosítására használt algoritmusokkal. Ehhez a kutatók egy olyan gondolatkísérletet végeztek, amellyel gyakorlatilag letették az algoritmusok hajtotta vegyifegyver-gyártás eljárásának alapjait.
A MegaSyn nevű szoftvert, amelyet virtuális molekulák összepárosítására és potenciális gyógyszerként való alkalmazásuk értékelésére használnak, úgy programozták át, hogy ne zárja ki, sőt kifejezetten keresse a toxikusmolekula-párosításokat. Egy nyilvánosan elérhető adabázis gyógyszerszerű molekuláin és a molekulák ismert toxicitási tulajdonságain tanított algoritmusnak mindössze néhány óra kellett ahhoz, hogy 40 ezer virtuális molekulát hozzon létre, amelyek a kutatók által előre meghatározott paraméterek közé estek, ahol a vegyi anyag már potenciálisan vegyi fegyverként értelmezhető.
A szoftver nem csupán a VX-hez hasonló idegmérgekkel állt elő, hanem az eddigieknél akár halálosabb kimenetelű, eddig nem ismert anyagkombinációkkal is. A kutatók akkor ijedtek meg igazán, amikor észrevették, hogy ezek a molekuláris tulajdonságok skálájának olyan szegletében helyezkednek el, amelyek teljesen máshol vannak, mint a korábban ismert neurotoxinok. Vagyis ha valaki szeretné, a vegyi fegyverek eddig totálisan ismeretlen, új hadosztályát is létre tudná hozni.
Visszaélhet-e bárki a gyógyszerfejlesztő algoritmusokkal?
Urbina és kollégái ezen a ponton érezték úgy, hogy le kell állniuk a kutatással. Egyik felfedezésüket sem próbáltak meg a valóságban létrehozni, és természetesen a molekulák listáját sem publikálták, ahogy a módszertanuk részleteit sem. Feltették azonban a kérdést, hogy ha nekik sikerült, másoknak miért ne sikerülhetne. „Mi csak egy vagyunk a világon működő több száz olyan cég közül, amelyek mesterséges intelligencia-alapú szoftvert használnak új gyógyszerek felfedezésére és de novo tervezésére. Közülük hánynak jutott eddig eszébe, hogy ezeket a technikákat más célokra is lehet használni, hogy ezekkel vissza is lehet élni?” - tették fel a kérdést a kutatók, akik azt is bevallották, a konferencia előtt egyáltalán nem gondolták, hogy a patogénekkel vagy toxikus vegyi anyagokkal végzett munkájukat ilyen irányba is lehet fordítani.
Az Economist beszámolójában mindenesetre hozzáteszi, hogy ha magáncégekében talán nem, kormányzatok vagy terrorcsoportok vezetőinek fejében már megfordulhattak hasonló gondolatok. A brit lap ugyanakkor megjegyzi, hogy a tehetősebb országok kormányzatai az első világháború óta a reguláris erők harci cselekményeiben nem sok hasznát vették a vegyi fegyvereknek: nem halálosabbak, mint a robbanóanyagok, könnyebb védekezni ellenük, és nehezebb is őket kordában tartani, mint a hagyományos fegyvereket. Más a helyzet diszfunkcionális államok vagy terrorcsoportok esetében, amelyek elrettentő erőként használhatják a vegyi fegyvereket, az ilyen felhasználási módok ellen pedig hatékony védekezési eljárásokat kellene találni.
Kapcsolódó cikkek a Qubiten: