Kötelező incidensbejelentést, független modellértékelést és bírságolási joggal felruházott AI-biztonsági hatóságot vezet be Ausztrália, jelentette be kedden Anthony Albanese miniszterelnök – a Guardian szerint a döntés egy gyorsított vizsgálat nyomán született. A vizsgálatot az OpenAI egyik kísérleti AI-ágense váltotta ki: júniusban egészségügyi statisztikák után kutatva jutott be a szociális és egészségügyi ellátásokért felelős Services Australia hivatal Medicare-statisztikai portáljára, és további három rendszerhez is hozzáfért. A kormány a vizsgálat mind a 18 ajánlását elfogadta, a jelentést azonban egyelőre nem hozta nyilvánosságra.

Az ügy kínos tanulsága, hogy az OpenAI az ABC szerint a jelenlegi ausztrál jog alapján valószínűleg nem követett el bűncselekményt. A szövetségi rendőrség nem indított eljárást, mert hivatalos feljelentés nem érkezett, és a Guardian értesülése szerint a cégnek további jogi következményekkel sem kell számolnia. A vizsgálat ezért azt javasolja, hogy a kormány fontolja meg az úgynevezett „megelőzés elmulasztása” típusú tényállás bevezetését. Eszerint büntetendő lenne, ha egy cég olyan AI-modellt fejleszt, amely kárt okoz, miközben nem tett meg minden észszerű lépést ennek megakadályozására. Tony Burke belügyminiszter szerint a jövőben senki nem védekezhet azzal, hogy nem tudta, mire képes a rendszere. Burke úgy látja, hogy míg a szoftveres sebezhetőségek felfedezése és kihasználása közti idő korábban nagyjából két és fél év volt, ez az AI miatt mostanra körülbelül tíz órára szűkült.

Az új szabályok szerint az AI-cégeknek a fejlesztés minden szakaszában biztonsági kontrollokat kell fenntartaniuk, és kezelniük kell modelljeik súlyos kockázatait. A lehető leggyorsabban jelenteniük kell az incidenseket, köztük azt is, ha egy ágens a fejlesztők szándékától eltérően viselkedik. Lehetővé kell tenniük modelljeik független értékelését, és nyilvánosságra kell hozniuk biztonsági keretrendszerüket. A jogszabályt jövőre terjesztik a parlament elé. Albanese a személyes adatok szempontjából csekélynek nevezte a júniusi incidenst, mert az ágens betegadatokhoz nem fért hozzá, ugyanakkor elfogadhatatlannak tartja a történteket. Az OpenAI közölte, hogy tanulmányozza a javaslatokat, és együttműködik a kormánnyal.

A bejelentést az ellenzéki koalíció támogatja, mások szerint viszont nem szabad ennyinél megállni. Toby Walsh AI-kutató a Guardiannek azt mondta, a bírságok nem rettentik el a dúsgazdag techcégeket, ezért a vezetőiket büntetőjogilag is felelősségre kellene vonni. A Zöldek részéről David Shoebridge a techipar előtti behódolásnak nevezte a csomagot, mert a legszigorúbb lépéseket a kormány mindig csak megfontolja, de nem meri vállalni.

Kapcsolódó cikkek:

„Üdv, az OpenAI biztonsági csapata” – a levél, amit 2026-ban senki nem szeretne megkapni

Bodnár Zsolt TECH szeptember 29.

Az OpenAI egy AI-ágense júniusban feltörte az ausztrál kormány rendszereit, a cég pedig csaknem három hónappal később, egy naponta egyszer ellenőrzött nyilvános e-mail-címre küldött rövid levélben szólt erről a hatóságoknak.

Napi abszurd: az OpenAI azt az e-mailt is AI-jal írta, amelyben arról értesítette az ausztrál kormányt, hogy az AI-modellje feltörte a rendszerüket

Bodnár Zsolt majom október 8.

A cég egyik vezetője ezt valószínűtlennek tartotta, amikor megkérdezték az ausztrál parlamentben, de megígérte, hogy utánanéz. Végül a Guardian derítette ki, hogy a biztonsági csapat részben AI-jal generáltatta a levelet.

Elszabadult az OpenAI ágense: rácsatlakozott az internetre, és feltörte egy AI-cég rendszerét

Bodnár Zsolt TECH július 22.

A cég szerint példátlan eset történt: a mesterséges intelligencia magától, emberi utasítás nélkül tört ki a zárt tesztkörnyezetből, hogy elérje a célját. Az OpenAI figyelmeztet, hogy ilyen esetek egyre gyakrabban előfordulhatnak.

Az AI Híradó kapcsolódó adása: