„Nem a mesterséges intelligenciától félek, hanem a természetes butaságtól”

Az ember egy sajátos tulajdonsága, hogy egy csomó olyasmitől fél, ami nincs, vagy legalábbis még nincs, ennek megfelelően a scifi-olvasók már akkor ráparáztak a mesterséges intelligencia (AI) veszélyeire, amikor egy polgári lakás halljának megfelelő terem és egy tonna lyukkártya kellett ahhoz, hogy mennyi 2+2. Sok más félelemtől eltérően ennek mostanra már lehet is valami alapja: a ChatGPT legújabb modellje, az o1 a készítői szerint már képes gondolkodni, érvelni és komplex feladatokat megoldani, és egyre többen tartanak attól, hogy idővel a mesterséges intelligencia megtanul hazudni, és akkor már kibújhat azok alól a szabályok alól is, amiket a féken tartására alkottak. Mindeközben az AI számtalan területen máris páratlanul hasznosnak bizonyult a diagnosztikától a génkutatáson át egészen az erdőtüzek megfékezéséig. Akkor hol van itt az igazság?

Realista a Cervantes Intézetben

Erre próbált meg választ adni Ramon López de Mántaras Badia csütörtök este a budapesti Cervantes Intézetben, a Vörösmarty utcában. A mesterséges intelligencia egyik legelismertebb európai kutatója, a Spanyol Nemzeti Kutatási Tanács (CSIC) kutatóprofesszora egyes kollégái szerint mérhetetlenül pesszimista a kérdésben, mások szerint túl optimista, saját maga szerint pedig egyszerűen csak realista. Mint az előadásán elmondta, akár tévedhet is, már ami a jövőt illeti, de mielőtt tömeges pánik törne ki amiatt, hogy a robotok elveszik a munkánkat, érdemes megvizsgálni, hogy mire képes a mesterséges intelligencia, és mire nem – illetve azt is, hogy mire képes az ember.

Az, aminek a mesterséges intelligencia jelenleg nincs a birtokában, és López de Mántaras szerint a jelenlegi technikai korlátok között nem is lesz, az a józan ész. Itt nem kell nagy dolgokra gondolni: vannak olyan ismeretek, amiket minden ember tud, egyértelműnek fogad el, és ha kell, képes megindokolni, hogy ezek miért vannak úgy, ahogy. A víz lefelé folyik; ha valamire zsineg van kötve, azt húzni kell, tolni nem érdemes; ha megvágjuk egy késsel az almát, nagy eséllyel az almán keletkezik folytonossági hiány, nem a késen. Ezeket a hétköznapi tapasztalat tanítja meg mindenkinek, gondolkozni sem kell rajtuk, az élet így működik. Viszont a mesterséges intelligenciát nem érik hétköznapi tapasztalatok, és nincs józan esze sem. Ez a specifikus feladatokra kifejlesztett programoknál még nem is baj: természetes, hogy akinél kalapács van, mindent szögnek néz, de ha kizárólag szögek is veszik körül, akkor nincs is szüksége semmi másra.

A kincset érő józan ész

A baj a mesterséges általános intelligenciánál (AGI) kezdődik, amelynek rengeteg különféle feladattal kellene megbirkóznia úgy, hogy a körülmények gyakorlatilag a végtelenségig változhatnak. López de Mántaras szerint például ilyen helyzetbe kerülne egy háztartási kisegítő robot: tudnia kellene, hogy ha műanyagot ejt le, az kevésbé törik, mint a porcelán, hogy merre nyílik a szekrény, hogyan működik a fiók – és még ezer más olyan dolgot, amit egy ember egy idegen konyhában is hamar kitapasztal, de csak azért, mert megvan hozzá a hétköznapi paraszti esze. Ez persze komolyabb kérdéseket is felvet: még a hülye is tudja, hogy nagyjából hogy működik a világ, legfeljebb azt nem, hogy miért úgy. Miért olyan nehéz akkor megtanítani erre a mesterséges intelligenciát?

López de Mántaras szerint ennek két fő oka van.