Lassan már nem is megy említésszámba, hogy a nagy nyelvi modelleket fejlesztői időről időre arról nyilatkoznak, hogy az általuk kreált modell tulajdonképpen „gondolkozik” és „érez” (bármit is jelentene utóbbi egy algoritmus esetén). Nemrég maga Elon Musk is érző szívű hópihének látta az xAI által fejlesztett Grokot – de talán akkor is szintlépésnek tekinthetjük, hogy az egyebek mellett a vallásosságot ostorozó, Isteni téveszme (The God Delusion) című könyvéről ismert evolúcióbiológus, Richard Dawkins maga is arra jutott pár hónapja, hogy az Anthropic által fejlesztett Claude „gondolkodik”. Ezt az állítását többen azonnal szétszedték, Dawkinst pedig azzal csúfolták, hogy a „Claude Delusion” áldozata lett. De még ha nem is igaz, amit állított, egy alapkérdést felvet a történet: ha egy világhírű szkeptikus viszonylag könnyen elhiszi, hogy egy nagy nyelvi modell „gondolkozik”, akkor az átlagembert milyen könnyedséggel tudja egy mai chatbot abba a hitbe ringatni, hogy érző és gondolkozó „valakivel” társalog?

Yuval Noah Harari - a jelek szerint Dawkinsnál lényegesebben kritikus - történész egy korábbi esszéjében úgy fogalmazott, hogy a pillanatok alatt, a legkülönbözőbb témákban, kompetensnek tűnő, meggyőző prózát szolgáltató nagy nyelvi modellek, az LLM-ek „meghekkelték” a mesélésen, beszélgetésen, kommunikáción alapuló emberi civilizációt, a közelmúltban elhunyt filozófus, Daniel C. Dennett pedig „hamisított embereknek” nevezte a chatborokat,, a legveszélyesebb „tárgyaknak” az emberi történelemben, amelyek egyenesen az emberi szabadságot veszélyeztetik.

Az Impakták legújabb adásában Fábri Györggyel és Miklósi Ádámmal beszélgetünk arról, hogy mi is a „tudat”, hogyan és miért különböztetünk meg vagy kellene megkülönböztetnünk emberi és állati, illetve emberi és gépi tudatot, és van-e olyan (nem emberi) „tudat”, amihez emberi jogoknak is kellene járniuk.

A beszélgetéshez kapcsolódó további jegyzetek:

• a Magnifica Humanitas pápai enciklika itt olvasható
• Terence Tao Mastodon fiókja és egy közelmúltbeli portré róla a New Yorker-ben
• Derek Thompson esszéje, ami azt próbálja elmagyarázni, hogy mi a gondja a matematikusoknak az OpenAI-féle „bizonyításokkal”
• az állati intelligencia felmérésére szolgáló ún. „tükörteszt” egy kritikája
• az 1984-es Warnock Report, amiben az emberi embriókon való kísérletezés szabályait fektették le

A címlapképen Auguste Rodin A pokol kapuja" című alkotása látható - forrása a Wikimedia. Köszönet Tóth Andrásnak a technikai segítségért, Tövisházi Ambrusnak a zenéért.

Kapcsolódó cikkek a Qubiten:

Lenyűgöző hasonlóságot tártak fel a mesterséges intelligencia és az emberi agy szerveződése között

Tóth András tudomány augusztus 25.

Az Anthropic kutatói az emberi globális munkatérhez hasonló működési mintázatot azonosítottak a Claude modellekben. Orbán Gergő, a Wigner kutatója szerint az elmélet kiváló eszközt adott az AI-kutatók kezébe a mesterséges intelligencia működésének megértéséhez.

Randalírozó ágensek, rettegő AI-vezérek, világvége-riadó – hogy jutottunk idáig?

Bodnár Zsolt, Tóth András podcast szeptember 26.

Már nemcsak az AI kritikusai, hanem maguk a cégvezérek és kutatók kérik a fejlesztések lassítását, miután egymást érik az esetek, amikor AI-ágensek valódi rendszereket törnek fel. De tényleg indokolt az egzisztenciális pánik, vagy csak marketing az egész? Az AI Híradó új részében alaposan utánajártunk.