Súlyos bizalomvesztéssel járhat, ha a tudományos szövegeket elárasztják az AI-képek
A kutatók sem bíznak azokban a tudományos cikkekben, amik AI által generált ábrákat tartalmaznak, mégis egyre többen használnak AI-eszközöket tanulmányaik vizuális kiegészítéséhez. Az AI-eszközök a tudományos szövegek minőségének felhígulását is eredményezik, miközben az elmúlt években drámai módon megnőtt a tudományos kiadókhoz benyújtott cikkek száma. „Az ellenőrzésre szánható időkeret és emberállomány viszont nem változott meg, ami nagyon kockázatos, mert egyre több olyan cikk fog megjelenni, ami nem volt kellő tudományos szűrővel validálva” – mondta a Qubitnek Üveges István, az ELTE Társadalomtudományi Kutatóközpont korábbi kutatója, a Griffsoft Zrt. kutató-fejlesztője, aki a Springer, az MDPI és az Elsevier tudományos kiadókhoz beérkező tanulmányok lektorálásában és elbírálásában is részt vesz.
A nemzetközi kutatások eredményei azt mutatják, hogy a ChatGPT 2022-es megjelenése óta 42 százalékkal emelkedett a publikálásra benyújtott tanulmányok száma, miközben a szövegek minősége romlott. Üveges szerint az AI-generált kép- és szövegalkotás szabályozása egyelőre vita tárgya a magyar és a nemzetközi akadémiai közösségekben is, miközben a gyakorlatban folyamatosan ütik fel a fejüket az AI-eszközökkel generált, valótlanságokat tartalmazó képek és illusztrációk. A kutató elmondta, hogy találkozott már olyan esettel, amikor a képen szerepelt „az egyik [AI] eszköz logója, ami önmagában még nem lett volna gond, de a szöveg alapján egyértelmű volt, hogy ez semmiféle kapcsolatban nem áll a cikkben foglalt adatokkal”. Bár ezután a kiadó elutasította a tanulmányt, Üveges szerint „egy ilyen jelenség alapvetően megkérdőjelezi az egész kutatás hitelességét”.
Több tanulmányt is visszavontak már az AI miatt
Több nagy port kavaró eset is előfordult az utóbbi néhány évben, amikor nívós tudományos folyóiratok AI-képek miatt kényszerültek tanulmányok visszavonására. 2024-ben a New England Journal of Medicine folyóiratban megjelent tanulmány egy tüdőrákos férfi légútjaiból eltávolított fekete színű lenyomatokat és egy melléjük helyezett mérőszalagot ábrázoló képet is bemutatott. A mérőszalagon azonban értelmezhetetlen írásjelek voltak láthatók, majd miután a kép nagy médiafigyelmet kapott, a szerzők, Yuling Wang és Xiangdong Mu, akik két pekingi kórházban dolgoztak, elismerték, hogy az ábrát mesterséges intelligenciával manipulálták. Az eset után a kutatók közleményükben azt írták, hogy „nem voltunk tisztában a folyóirat képmanipulációra vonatkozó irányelveivel, és mesterséges intelligencia [AI] eszköz segítségével módosítottuk a beküldött anyagot úgy, hogy a vonalzót a kép tetejére helyeztük. Ezért vissza kívánjuk vonni a képünket és az esettanulmányunkat.”
A másik esetben egy kisemlősök spermaőssejt-kutatásával foglalkozó tanulmányt kellett felülbírálni publikálás után. A Frontiers in Cell and Developmental Biology folyóiratban megjelent tanulmányt egy, a testénél jóval nagyobb méretű pénisszel ábrázolt patkány képe miatt vonták vissza, amivel nemcsak az aránytalanság volt a probléma, hanem hogy az ábra magyarázatában értelmezhetetlen és összefüggéstelen AI-generált szövegek szerepeltek. A szerzők nyíltan elismerték, hogy a Midjourney AI-modell képgenerátorát használták az ábra megalkotásához. A Frontiers az eset után közleményben hírül adta, hogy a cikk „nem felel meg a [Frontiers] szerkesztői és tudományos szigorúsági követelményeinek”, ezért azt eltávolították az adatbázisukból.
Az előbbi példákban szereplő képek jól láthatóan nem fedik a valóságot, ami laikusként is könnyen kiszűrhető, azonban a nagyobb kockázatot az olyan ábrák jelentik, amelyek mikroszkópos felvételeket utánoznak. Ennek bizonyítására egy anyagtudósokból álló kutatócsoport ChatGPT-vel olyan képsorozatot generált, amely négy „új” anyagot ábrázolt: nano-puffst, nano-cheetost, nano-sárkányfogakat és nano D12-t. Az ausztrál Melbourne-i Egyetem és a német Leibniz Polimerkutató Intézet kutatói 250 akadémikust kértek meg arra, hogy az AI-eszközzel generált képeket különböztessék meg a valódi mikroszkópos felvételektől: az eredmények azt mutatták, hogy ez gyakorlatilag a szakértőknek is lehetetlen feladat volt. A kutatócsoport a felfedezés után azt a javasolta az akadémiai közösségnek, hogy a szerzők publikációi tartalmazzák az AI-képek generálásához használt információkat.
A transzparencia lehet a megoldás
A tudományos kiadók irányelvei egyelőre eltérő ütemben követik le az AI-eszközök miatt kialakult kaotikus kép- és ábrageneráló trendeket. „Olyan esettel is találkoztam már, hogy csak az adott cikket utasították el, azzal az indoklással, hogy ez nem etikus generatív AI-felhasználás volt, ezért a kiadó ehhez nem tudja adni a nevét, de hogyha ugyanez a kutató javítja a problémát, akkor szélsőséges esetben újra be is adhatja ugyanazt a cikket akár ugyanahhoz a kiadóhoz” – mondta Üveges. Az egyik neves tudományos folyóirat, a Nature Portfolio például arra kötelezi a szerzőit, hogy egyértelműen jelöljék meg az AI által generált képeket a cikkeikben, tegyék nyilvánossá a képek létrehozásához használt promptokat, és kiemeli, hogy a szerzőknek továbbra is felelősséget kell vállalniuk saját szellemi termékeikért – beleértve az AI-generált vizuális tartalmakat is.
Az amszterdami székhelyű Elsevier is szigorúan szabályozza az AI-eszközökkel készített képek használatát: a generált képek nem helyettesíthetik a kísérleti eredményeket vagy az adatvizualizációkat, hogyha hagyományos módszerekkel is megjeleníthetők az adatok. Emellett a szerzőknek minden vizuális elem eredetét dokumentálniuk kell, illetve a kiadó fenntartja a jogot az eredeti promptok és paraméterek bekérésére is. Az amerikai PLOS tudományos kiadó ennél óvatosabban szab határt az AI-generált tartalmak alkalmazásának, és azokat „nem ajánlja” a kutatás kulcsfontosságú elemeinek magyarázatához. Ugyanakkor a Nature-höz és az Elsevierhez hasonlóan a PLOS is elvárja a szerzőktől, hogy az AI-tartalmakat azonosítsák írásaikban; emellett meg kell erősíteniük, hogy a képek nem tartalmaznak semmilyen félrevezető vagy kitalált elemet. Bár a tudományos kiadók AI-szabályozásai nem egységesek, általános törekvésük, hogy a generált tartalmak átláthatóan, források megjelölésével és megfelelő dokumentációval kerüljenek a nyilvánosság elé.
Az AI-képek bizalomvesztéssel járnak
Bár vannak kiadói törekvések az AI-eszközök használatának szabályozására, Üveges szerint „ez a technológia jelen pillanatban olyan sebességgel fejlődik, hogy a kutatók futnak az informatikusok fejlesztései után, a szabályozók pedig próbálják lekövetni, hogy ezek az eszközök hogyan épülnek be a mindennapi gyakorlatba”. Ugyanakkor a konzisztens keretrendszer megalkotása kollektív akadémiai érdek, hiszen a nyilvánosság bizalma a tét. Egy, a Conversationön megjelent friss felmérés szerint azok az olvasók, akik tisztában vannak az AI-eszközök mibenlétével, hitelesebbnek gondolták azokat a tudományos cikkeket, amelyekben a kutatók feltüntették, hogy milyen AI-modellt használtak az ábráik elkészítéséhez. Ugyanakkor egy másik, 1063 aktív kutató megkérdezésével készült idei felmérés szerint a szakmai és pályázati bírálók 81 százaléka kevésbé bízik meg az AI által generált tartalmakban, mint az emberek által készített munkákban.
A BioRender tanulmányából az derült ki, hogy a megkérdezett kutatók szerint egy tanulmány akkor a legmegbízhatóbb, hogyha egyáltalán nem tartalmaz AI-generált ábrákat. A felmérés szerint a pályázati és szakmai bírálók csupán 10 százaléka bízott meg a teljesen az AI által készített ábrákban, 54 százalék az AI-generált és emberek által jóváhagyott ábrákban és 74 százalék a kizárólag emberek által készítettekben. „A tudományban és a tudományos kommunikációban helye van az AI felelős használatának, de a tudósok természetüknél fogva szkeptikusak. Ha ezt az alapvető tulajdonságunkat elveszítjük az AI korszakában, vajon még mindig tudósok vagyunk? – idézi a BioRender Peter J. Gianarost, a Pittsburghi Egyetem pszichológiaprofesszorát.
A tudományos cikkekben használt AI-generált képek miatt az akadémikusok hibalehetőségei is nőnek, ami Üveges szerint komolyabb társadalmi következményekkel is járhat. „Attól tartok, hogy valamilyen szinten számíthatunk majd a szélsőségek megerősödésére, hiszen a tudomány mindig is azzal érvelt maga mellett, hogy egy tudományosan validált állítás önmagában nem valakinek a véleménye, hanem egy tényekkel igazolható dolog, valami, ami mögött reprodukálható kutatási folyamat áll. Hogyha az kezd láthatóvá válni a szélesebb nyilvánosság számra, hogy a tudomány mint műfaj a továbbiakban nem képes önszabályozásra és minőségbiztosításra, akkor az szerintem azzal fog járni, hogy a szélsőségek egyfajta objektív alapot kapnak ahhoz, hogy azt mondhassák, ami eddig csak közhely volt, hogy a tudomány nem tévedhetetlen”.
Kapcsolódó cikkek:
AI vagy nem AI? Most kipróbálhatod, meg tudod-e különböztetni a fotókat a mesterségesen generált képektől
A legjobb képgenerátorok már rég túlvannak azon, hogy halandzsát írjanak a képekre vagy hétujjú és háromkarú szörnyszülötteket hozzanak létre. De vajon az új Midjourney képes-e átverni a gyakorlott emberi szemet?
Így vettem rá a mesterséges intelligenciát, hogy képet hamisítson
Téged is megtévesztett képes tesztünk, az AI vagy nem AI? Ne csodálkozz, maga az alkotó sem hitt a szemének. Itt a részletes magyarázat.