A mesterséges intelligencia (AI) gyors fejlődése rengeteg kutatót és filozófust gondolkodásra késztet, a színfalak mögött (és néha előtt) komoly viták folynak a tudat és a tudatosság kérdéséről, és egy esetlegesen tudatossá váló AI-rendszer etikai vonatkozásairól. Egyesek szerint a társadalomnak már most fel kell készülnie azokra a forgatókönyvekre, amelyekben a mesterséges intelligencia szubjektív tapasztalatot szerezhet, vagy akár szenvedést élhet át.

Egy AI-etikával foglalkozó nonprofit (Eleos AI) és négy rangos egyetem (Oxfordi Egyetem, London School of Economics, New York-i Egyetem, Stanford Egyetem) szakértői most az arXiv preprint-szerveren publikálták jelentésüket, amely arra szólítja fel a mesterséges intelligenciával foglalkozó vállalatokat, hogy vizsgálják meg rendszereikben a tudatosság jeleit, és hozzanak létre irányelveket az ilyen fejlemények kezelésére – ezek nélkül ugyanis jelentős etikai mulasztásokba futhatnak bele.

Bár sokan szkeptikusak azzal kapcsolatban, hogy az AI tudatossága valóban a küszöbön áll-e, vagy hogy egyáltalán lehetséges-e, de még közülük is többen úgy vélik, hogy a felkészülés nem árthat. „Frankenstein teremtményével sem az volt a probléma, hogy életre kelt, hanem az, hogy tudattal rendelkezett és képes volt érezni” – idézi a Nature Anil Seth brit tudatkutatót. Jonathan Mason oxfordi matematikus hozzáteszi, hogy mivel a társadalom egyre jobban támaszkodik a mesterséges intelligencia technológiájára, elengedhetetlen, hogy teljes mértékben megértsük a képességeiket.

A jelentés az AI-etika egyfajta átmeneti pillanatát örökíti meg, mivel a nagy cégek éppen most kezdenek nagyobb figyelmet fordítani a területre – a jelentés egyik társszerzője, Kyle Fish épp a közelmúltban lett az Anthropic munkatársa, mint AI-jóléti kutató. Ugyanakkor a Nature megkeresésére sem az Anthropic, sem a Google, sem a Microsoft nem kívánt nyilatkozni a területen elért eredményeiről, az OpenAI pedig válaszra sem méltatta a tudományos kiadót.

Szeptemberben az ENSZ tanácsadói testülete is közzétett egy jelentést a mesterséges intelligencia felhasználásáról, de ebben a dokumentumban szó sem esik a tudatos AI kérdésköréről – annak ellenére, hogy korábban egy tudatkutatókból álló csoport külön felhívta a testület figyelmét arra, hogy támogassa a gépek tudatosságát felmérő kutatások létrejöttét.