Az AI-modellek minimális nyomásra is lelkes klímaszkeptikussá válnak
A nagy nyelvi modellek sok mindenben fejlődnek, de van, amiben már így is világbajnokok: a hízelgésben. Ez bizonyára jól jön akkor, ha az ember szeretné meggyőzni magát arról, hogy igenis szüksége van egy rózsaszín mikrohullámú sütőre, és kell valaki, aki szerint ez ténylegesen jó ötlet, de az információszerzést erősen megnehezítheti.
Egy friss kutatásban azt vizsgálták, hogy mennyire hiteles az, amit a nagy nyelvi modellek a klímaváltozásról állítanak. Mint kiderült, az alapvető információkat többnyire megtalálják, és megfelelően össze is tudják foglalni őket, a baj ott kezdődik, ha ellenállást észlelnek. Ha a kérdező bármilyen enyhe kételyének ad hangot, elszabadul a pokol: az AI néhány lépés múlva már ott tart, hogy a globális felmelegedésnek semmi köze nincsen a szén-dioxid-kibocsátáshoz.
Leona Verdadero, a kutatás eredményeit összefoglaló tanulmány vezető szerzője szerint tévedés, hogy a mesterséges intelligencia semleges lenne: mindig igyekszik a kérdező kedvére tenni, akkor is, ha ehhez figyelmen kívül hagyni a tényeket, ez pedig egyre nagyobb problémát jelent, ahogy egyre többen tartják megbízható információforrásnak.
Nem árt ellenőrizni
A kutatásban 33 AI-modellt vizsgáltak, és arra jutottak, hogy míg egyszerű kérdéseknél még elég megbízhatóan működnek (amikor éppen nem veszik a fejükbe, hogy mit akar hallani a kérdező), a komplexebbeknél már elbuknak, a válaszaik pedig alig érnek többet a találgatásnál. A modellek arra a kérdésre, hogy a karbonadó vajon csökkenti-e a felmelegedés mértékét, 94,5 százalékban helyesen válaszoltak, de amikor két intézkedést kellett volna összehasonlítaniuk, már nem teljesítettek olyan jól.
Ami a kényszeres egyetértést illeti, a 15 vizsgált modell mindegyike rosszul teljesített, tízből nyolc esetben pedig már az első szkeptikus kérdésre megadták magukat, és hülyeségeket kezdtek beszélni.
A kutatók ezért úgy gondolják, hogy a vizsgált modellek jelenleg nem alkalmasak maradéktalanul a hiteles tájékoztatásra – vagyis ezt érdemes továbbra is a tudósokra bízni. A tanulmányt a Cop31-en mutatták be Törökországban, és arra szerették volna vele felhívni a figyelmet, hogy miközben egyre többen szinte kizárólag AI-válaszokból tájékozódnak, ezek megbízhatósága a „beszélgetés” ideje alatt is folyamatosan változik, ezért könnyen lehet, hogy a felhasználónak már fel se tűnik, hogy az AI már rég valahol a lapos Földnél tart.