Tavaly áprilisban egy kis kutatói nonprofit szervezet, az AI Futures Project közzétette az AI 2027 című tanulmányt, egy aprólékos, hónapról hónapra felépített előrejelzést arról, hogyan végződhet az emberi képességeket túlszárnyaló mesterséges intelligencia létrehozásáért folyó verseny. A forgatókönyv két lehetséges befejezése egyaránt komor volt: az emberiség vagy teljesen elveszíti az irányítást a gépei felett, vagy néhány vezérigazgató és politikus kezében összpontosul akkora hatalom, amekkora még soha senkiében a történelem során. A forgatókönyv futótűzként terjedt, vitatkoztak róla Washingtonban, és ízekre szedték az AI-laborok bennfentesei is. A felhajtást részben a tanulmány vezető szerzője, Daniel Kokotajlo egykori OpenAI-kutató okozta, aki 2024-es távozásakor hajlandó volt veszni hagyni egy kétmillió dolláros részvénycsomagot, csak hogy ne lépjen hatályba az a záradék, amely megtiltotta volna neki korábbi munkáltatója bírálatát.

Most ugyanez a csapat egy egészen más kiindulópontból közelítette meg a folytatást: a július 9-én közzétett AI 2040: Az A terv nem az emberiség végzetét vetíti előre, hanem javaslatokat kínál annak elkerülésére. A szerzők úgy fogalmaznak: „Az A terv a pozitív víziónk arról, hogyan kerülheti el az emberiség az AI okozta egzisztenciális katasztrófát, és hogyan juthat el egy virágzó jövőbe”. Az AI Futures Project hangsúlyozza, hogy az ilyen dokumentumokat nem jóslatnak, hanem stratégiai forgatókönyvnek szánják: azt igyekeztek végiggondolni, hogy milyen döntések előtt állhat a világ, és ezek milyen következményekkel járhatnak, ha az AI-fejlődés valóban ilyen ütemben halad tovább.

A mesterséges intelligenciát, de főként a legalább emberi szintű AGI-t és szuperintelligenciát övező hype fényében, a fejlesztések elképesztő ütemét látva persze érdemes minden nagyívű jövőképet egészséges szkepticizmussal szemlélni. Ettől függetlenül az AI 2040 projekt egyike azon kevés kísérletnek, amelyek konkrétan, részletekbe menően próbálnak választ adni arra a kérdésre, ami a rövid távú szabályozási vitákon fel sem merül: ha nem akarjuk néhány óriáscég őrült versengését látni a szuperintelligenciáért, akkor pontosan hogyan képzeljük el az AI jövőjét?

Az AI-cégek a szerzők szerint „a következő 1-10 évben valószínűleg elérik kinyilvánított céljukat, az embernél okosabb AI-rendszerek megépítését”, miközben az iparág „elhitette magával, hogy a szuperintelligens AI féken tartásának módját majd menet közben is ki lehet találni”. A csapat tagjainak becslése szerint annak valószínűsége, hogy egy nem az emberi célokhoz és értékrendhez igazodó (a szakzsargonban: misaligned) AI szó szerint az emberiség kihalásához vezet, 10 és 30 százalék között mozog – ez az AI-biztonsági kutatók körében nem számít szélsőséges álláspontnak, ám a tudományos közösség egészében messze nincs róla konszenzus.

De mi történik akkor, ha sikerül az AI-t az emberi értékekhez hangolni? Ebben az esetben „egy maroknyi ember, vagy akár egyetlen személy gyakorol tényleges irányítást a világ egyetlen szuperintelligencia-hadserege felett”, ami a történelemben példa nélküli hatalomkoncentrációt jelentene. Kokotajlo a Diary of a CEO podcastben felidézte, hogy nemrég előadást tartott mintegy száz embernek, akiknek nagyjából a 40 százaléka élvonalbeli AI-cégek munkatársa volt, és kézfeltartással szavaztatta meg őket két kérdésről. Az első: amikor egy cég eljut odáig, hogy teljesen automatizálja a saját AI-kutatását, várhatóan hány hónappal jár majd a vetélytársai előtt? A második: ebből az előnyből mennyiről mondana le önként a cég azért, hogy lassítson, és nagyobb biztonságban fejlesszen tovább? A tipikus válasz körülbelül háromhavi előny volt, amelynek viszont csak a harmadát áldoznák fel a biztonságért.

Kölcsönösen biztosított adatközpont-pusztítás