Egyetlen AI-kép generálása annyi energiát fogyaszt, mint egy okostelefon teljes feltöltése
A generatív mesterséges intelligencia (AI) bárkinek elérhető eszközei, így a chatbotok (pl. ChatGPT) és a képgenerátorok (Midjourney, DALL-E, Stable Diffusion stb.) energiafogyasztásáról a terület fiatalkora miatt kevés kutatás készült eddig, de a Carnegie Mellon Egyetem és a Hugging Face nevű AI-startup most utánajárt a dolognak.
Mint kiderült, egyetlen kép generálása egy fejlettebb AI-modell segítségével annyi energiát vesz igénybe, mint egy okostelefon teljes feltöltése. A szöveggenerálás szerencsére ennél jóval kevésbé energiaigényes: ezer üzenet lekérése nagyjából annyi energiát fogyaszt, mint egy telefontöltés fogyasztásának 16 százaléka.
A szakmai lektorálás előtt álló tanulmány az első, amelyben kutatók a generatív AI-modellek különböző felhasználásainak karbonlábnyomát vizsgálták. Sasha Luccioni, a Hugging Face AI-kutatója és csapata tíz népszerű feladathoz (kérdésválaszolás, szöveg- és képgenerálás, képosztályozás, feliratozás stb.) kapcsolódó kibocsátásokat vizsgált. A kísérleteket 88 különböző modellel végezték el, és minden feladatnál igénybe vették a Code Carbon nevű eszközt, hogy felmérjék a felhasznált energiát, illetve az abból származó szén-dioxid-kibocsátást.
Messze a képgenerálás volt a legnagyobb energiaigényű és szén-dioxid-kibocsátású AI-feladat: ezer kép generálása a Stable Diffusion XL modellel nagyjából annyi szén-dioxidot termel, mintha egy átlagos benzines autóval 6,5 kilométert vezetnénk. Ezzel szemben a legkevésbé ártalmas szöveggeneráló modell ezer üzenet létrehozása során annyi szén-dioxid-kibocsátást eredményez, mint az előbb említett autó egyetlen méter megtételével. Bár még a 6,5 kilométeres utazáshoz kötődő kibocsátás sem tűnik olyan soknak, a megállíthatatlan képgenerátor-mánia idején gyorsan összeadódnak ezek a számok – az egyre több alkalmazásban megjelenő fejlett AI-modelleket ma már naponta több millió alkalommal használják.
A kutatók megállapították, hogy a nagy generatív modellek használata sokkal energiaigényesebb, mint az egyedi feladatokra szabott, kisebb AI-modellek használata. Például ha filmkritikákat szeretnénk osztályozni aszerint, hogy azok pozitívak vagy negatívak, és ezt egy nagy generatív modellel tesszük, akkor körülbelül 30-szor több energiát fogyasztunk, mintha egy kifejezetten erre a feladatra létrehozott, finomhangolt AI-modellt vennénk igénybe.
Luccioni azt reméli, kutatásuk arra ösztönzi majd az embereket, hogy megválogassák, mikor használnak generatív AI-modelleket, és adott esetben inkább a specializáltabb, kevésbé energiaigényes modellek felé fordulnak. „Ha egy konkrét feladatot végzel, például e-mailek között keresel, akkor tényleg szükséged van ezekre a nagy modellekre, amik bármire képesek? Én azt mondanám, hogy nincs” – mondta.
A kutatócsoport arra is rámutatott, hogy a mesterséges intelligencia használatával járó napi szintű kibocsátás messze meghaladja a nagy modellek betanításából származó kibocsátást. A BLOOM nevű, többnyelvű modell különböző változatainak teszteléséből kiderült, hogy közel 600 millió használat alatt be lehet hozni a modell tanítására fordított energiaköltséget. Ez a népszerű modellek, például a ChatGPT esetében azt jelenti, hogy néhány hétnyi használatuk alatt már több szén-dioxid-kibocsátáshoz járultunk hozzá, mint amennyi a modell kiképzése során keletkezett.
A szakértők remélik, a még több hasonló tanulmány készül a jövőben, és az eredmények hozzájárulnak ahhoz, hogy az AI-boomból hasznot húzó vállalatokat jobban felelősségre lehessen vonni az energiafelhasználásukkal és a kibocsátásaikkal kapcsolatban.