Az OpenAI és az Anthropic is lobbizik az AI-jal fejlesztett biológiai fegyverek terjedésének megakadályozásáért
A nagy jelentőségű mesterségesintelligencia-vállalatok vezérigazgatói olyan új törvények kidolgozását követelik az USA döntéshozóitól, amelyek megakadályozzák, hogy az AI-cégek technológiáit biológiai fegyverek fejlesztésére lehessen használni – írja a Wired. A politikailag független Institute for Progress és a jobboldali beállítottságú Foundation for American Innovation közös kezdeményezése szerint „valós lehetősége van annak, hogy azok a tudásbeli akadályok, amelyek történelmileg megakadályozták a rosszindulatú szereplőket a biológiai fegyverek megszerzésében, jelentősen leépüljenek”, ez pedig lehetővé tenné az AI-jal való visszaéléseket.
A levél aláírói között szerepelt Demis Hassabis a Google DeepMindtól, Sam Altman az OpenAI-tól, Dario Amodei az Anthropictól és Mustafa Suleyman a Microsoft AI-tól, illetve David Relman, a Stanford Egyetem mikrobiológusa és biobiztonsági szakértője is kiállt a kezdeményezés mellett. Az AI biológiai fegyverként való használatával kapcsolatos pánikot kanadai kutatók robbantottá ki először 2017-ben, amikor 100 ezer dollár értékű postán rendelt DNS felhasználásával újraalkották a kihalt lópoxvírust. Ez a folyamat a nagy nyelvi modellek segítségével jóval egyszerűbbé vált: „az AI-eszközök lehetővé teszik a felhasználó számára, hogy nagyon gyorsan azonosítsa, hová fordulhat olyan szekvenciák megrendeléséhez, amelyek nem esnek át ellenőrzésen” – idézi a Wired Relmant.
Az Egyesült Államok eddig is próbálta szabályozni a kockázatos biológiai eljárásokat, és a Biden-kormányzat idején bevezetett szövetségi iránymutatások szerint a szövetségi támogatásban részesülő tudósok és vállalatok csak olyan szolgáltatóktól rendelhetnek szintetikus génszekvenciákat, amelyek ellenőrzik a vásárlásokat. Ugyanakkor a Microsoft kutatóinak tanulmánya szerint az AI-alapú fehérjetervező eszközök képesek voltak potenciálisan veszélyes génszekvenciákat is létrehozni, amelyek átcsúsztak a vállalatok ellenőrző szoftverein.
A génszintézissel foglalkozó Twist Bioscience és Ansa Biotechnologies vállalkozások már 2009-ben megalapították a Gene Synthesis Consortiumot, amely önkéntes ellenőrzési gyakorlatokkal működik, azonban a techóriások szerint ez nem elég biztonsági garancia. A nyilvános levél olyan jogszabályok bevezetésére ösztönzi az Egyesült Államok Kongresszusát, amelyek előírnák a szintetikus DNS-t és RNS-t értékesítő vállalatok számára az ügyfelek és megrendelések ellenőrzését is.
Kapcsolódó cikk:
A brit halálsziget, amely biológiaifegyver-kísérletek terepe volt
A Skócia partjainál lévő Gruinard szigetén modellezte a brit haderő, hogy mi történne, ha a náci Németországot lépfenével fertőznék meg. Ezt a brutális eszközt sosem vetették be, a sziget azonban évtizedekig halálos maradt.