Az Európai Parlament szerdán nagy többséggel elfogadta a mesterséges intelligencia használatát a világon elsőként szabályozó AI-jogszabályt, amelynek egyes elemei fokozatosan lépnek majd életbe a következő hónapokban.

A jogszabály, amelyről még decemberben egyeztek meg a tagállamok, az EU szerint segít megvédeni az alapvető jogainkat, a demokráciát, a jogállamot és a környezeti fenntarthatóságot a nagy kockázatú AI-fejlesztésektől, miközben fellendíti az innovációt, és a terület egyik vezetőjévé teszi Európát.

A parlament dél körül 523 támogató és 46 ellenszavazattal meghozott döntését nagy örömmel fogadta Thierry Breton, a belső piacért felelős uniós biztos, aki azt az X-en (korábban Twitter) megosztott posztjában a demokrácia lobbisták feletti győzelmeként értékelte. Breton szerint Európa immár globális sztenderdalkotó a mesterséges intelligencia területén. Hozzátette, „a lehető legkisebb mértékben szabályozunk – de éppen annyira, amennyire szükséges!”

A törvény a hatálybalépése után fél évvel betiltja a munkahelyeken és az iskolákban az érzelmek felismerésére képes algoritmusok alkalmazását, a Kínában próbálgatott személyre szóló értékelést (social credit score), az emberi viselkedést manipuláló algoritmusokat, a biztonsági kamerák felvételei alapján készülő arcfelismerő adatbázisokat, valamint a gyanúsítottak profilozás alapú, AI-adatelemzéssel történő bűnügyi felderítését. A jogszabály értelmében továbbá a bűnüldöző szervek csak limitált esetekben használhatnak valós idejű biometrikus felismerést, például ha egy eltűnt személyt keresnek, vagy ha egy terrortámadást kell megelőzniük.

A magas kockázatú AI-rendszerekkel szemben, amelyek komoly biztonsági, egészségügyi, környezeti és társadalmi kockázatokat jelenthetnek, külön elvárásokat fogalmaz meg a jogszabály. A rendszereknek értékelniük és csökkenteniük kell ezeket a kockázatokat, átláthatónak és megbízhatónak kell lenniük, valamint lehetőséget kell adniuk az emberi felügyeletre. A 3 év múlva életbe lépő szabályok értelmében az állampolgároknak joguk lesz panaszt tenni az AI-rendszerekkel szemben.

Az AI-törvény értelmében az olyan általános célú mesterséges intelligencia rendszereknek, mint a ChatGPT vagy a Claude, átláthatóbbnak kell lenniük és meg kell felelniük az uniós szerzői jognak, a fejlett chatbotoknak pedig modellértékeléseken, valamint rendszerszintű kockázataik csökkentését célzó erőfeszítéseken kell átesniük. A jogszabály emellett előírja, hogy a mesterséges intelligencia által módosított deepfake tartalmakat – legyenek azok akár képek, videók vagy hangfájlok – külön címkével kell majd ellátni.

„Összekötöttük a mesterséges intelligencia koncepcióját az alapvető értékeinkkel, amelyek társadalmaink alapjait adják. Ennek ellenére sok munka vár még ránk az AI-törvény után is. Az AI miatt újra kell majd gondolnunk a demokráciáink középpontjában álló társadalmi szerződést, az oktatási módszereket, a munkaerőpiacot és azt, hogy miként háborúzunk” – mondta Dragoș Tudorache román EP-képviselő, aki a belügyi, jogi és szabadságjogi parlamenti bizottság tagja. Tudorache szerint a törvény egy új technológia szabályozási modell kiindulópontját jelenti, viszont mostantól arra kell összpontosítani, hogy az a gyakorlatban is működjön.

A törvényt korábban azért érték kritikák, mert még így is túl megengedő a biometrikus adatokon alapuló megfigyelésekkel szemben, valamint lehetőséget ad a cégeknek arra, hogy ők döntsék el, mennyire kockázatosak az algoritmusaik.