Vakoknak segít látni a ChatGPT, de az arcokat titkolja előlük
Ijesztően jól működik az OpenAI új fejlesztésű képfelismerő programja – legalábbis ezt állítják azok, akik részt vehettek a szűk körű tesztüzemében. A vállalat a Be My Eyes nevű startuppal közösen vakokon teszteli a minden eddiginél fejlettebb képelemző rendszert, és bár Jonathan Mosen, az egyik tesztelő szerint a program segít neki elemezni is a képeket, amiket feldolgozott, az OpenAI már a bétatesztek során szándékosan lebutította a mesterséges intelligenciát.
Az ok az adatvédelmi szabályok betartása és a személyi jogok védelme, emiatt a program a továbbiakban a bétatesztelőknek sem dolgoz fel adatokat az arcokról, és nem ismer fel személyeket sem. Az eddigi bétatesztelés során előfordult, hogy Mosen egy közösségi médiában látott fényképről kért leírást: a ChatGPT szerint a fotón egy szőke nő volt látható, aki boldognak tűnt. További kérdésekre elárulta, hogy a nő sötétkék blúzt visel, és egy egészalakos tükörben készített magáról fényképet. Ennek már vége: a program már azt sem mondhatja meg, hogy valaki boldognak tűnik-e vagy sem.
A képmáshoz való jog
A változás nem érinti a közszereplőket: Sandhini Agarwal, az OpenAI fejlesztőmérnöke szerint a ChatGPT például név szerint is azonosíthatja azokat, akiknek saját Wikipedia-oldaluk van, de például a fejlesztő cégből csak a vezérigazgató Sam Altman fényképét ismeri fel, a többi munkatársét nem.
A Be My Eyes eddig önkéntesek bevonásával segített a vakokon és látássérülteken, ők magyarázták el, hogy mi van a képeken, amiket elküldtek nekik. A feladatot a jelek szerint a chatbot is tökéletesen ellátja, de az arcfelismerés korlátozása azt is jól mutatja, hogy milyen ingoványos területekre merészkednek az újabb fejlesztések.
Agarwal szerint ez a funkció például az Európai Uniós adatvédelmi szabályok szerint külön engedélyt igényelne mindenkitől, aki rákerül egy feldolgozandó fényképre, ezért a szabályok további átgondolására és a program finomítására is szükség van. Az OpenAI idővel arra is lehetőséget biztosít majd, hogy külön kérésre még a közszereplők is felismerhetetlenek legyenek a ChatGPT számára.
Mosen annak ellenére, hogy a program néha véletlenül félrevezette, nem örül a változtatásnak, szerinte ha már rendelkezésére áll ez a lehetőség, ugyanúgy joga lenne valamilyen információt kapni mások arcáról, mint azoknak, akik látnak. A tesztelés során Mosen néha hibás leírásokat kapott, ennek ellenére azt állítja, hogy a ChatGPT és a hozzá hasonló fejlesztések forradalmi változásokat hoznak a vakok és látássérültek életébe, ha pedig többé nem használhatná a programot, úgy érezné, hogy valami nagyon fontos képességtől, a képek könnyű és gyors elemzésétől fosztották meg.
Kapcsolódó cikkek a Qubiten: