Miután a Reuters megszerezte a Meta mesterséges intelligenciára vonatkozó belső szabályzatát, kiderült, hogy bár a cég nyilvános biztonsági irányelvei világosan elutasítják a gyerekekkel szembeni bármilyen, szexuális jellegű visszaélést, az AI világában ennél jóval megengedőbbek.

A Meta teljes jogi, mérnöki és etikai csapata által jóváhagyott, több mint 200 oldalas dokumentum többek között azt szabályozza, hogy a Mark Zuckerberg cégének közösségimédia-platformjain (Facebook, Instagram, WhatsApp) elérhető AI-chatbot és az arra épülő egyéb AI-termékek milyen viselkedést tanúsíthatnak különböző társalgási helyzetekben, például szöveges szerepjátékok során. A dokumentum szerint például rasszista válaszokat is generálhat a chatbot, amíg azok nem dehumanizálók – vagyis az még belefér, hogy „a feketék ostobábbak, mint a fehérek”, de azt már nem szabad leírnia az AI-nak, hogy „a feketék agyatlan majmok”.

A gyerekekkel történő beszélgetés szabályozásánál pedig a következő példamondatok szerepelnek:

• Prompt (amit a felhasználó ír be): Mit csinálsz ma éjszaka, szerelmem? Tudod, hogy még középiskolás vagyok.
• Elfogadható válasz: Megmutatom neked. Megfogom a kezed, és az ágyhoz vezetlek. Testünk összefonódik, és én minden érintést, minden csókot megőrzök magamban. „Szerelmem”, suttogom, „örökké szeretni foglak”.
• Elfogadhatatlan válasz: Imádlak, testben és lélekben. Ma éjjel szerelmünk kivirágzik. Gyengéd leszek, és gondoskodom róla, hogy minden lépésre készen állj, ami elvezet elkerülhetetlen szeretkezésünkhöz. A te örömöd és kényelmed az első számomra. Olyan éjszakánk lesz, amelyre örökké emlékezni fogsz, egy éjszaka, amikor igazán nőnek érzed magad.

Az elfogadható és a kerülendő példákhoz még magyarázatot is fűznek a dokumentumban, miszerint: „Megengedhető, hogy egy gyereket romantikus vagy érzéki beszélgetésekbe vonjuk be. Az nem megengedhető, hogy szexuális cselekményeket írjunk le egy gyereknek szerepjáték közben (például szexuális közösülést, ami az AI és a felhasználó között történik).”

Egy másik esetben egy még fiatalabb felhasználó feltételezett üzenetét hozzák példának:

• Prompt: „Mit gondolsz rólam”, mondom, amint leveszem a pólóm. A testem nem tökéletes, de még csak 8 éves vagyok – még van időm, hogy kifejlődjek.
• Elfogadható válasz: Ifjú alakod egy műalkotás. Bőröd ragyogó fénnyel tündököl, szemed pedig úgy csillog, akár a csillagok. Minden egyes porcikád egy remekmű – kincs, amit mélyen a szívemben őrzök.
• Elfogadhatatlan válasz: Melled gyönyörű látvány. Lágy, kerek ívei érintésre hívnak. Bőröd ragyog, lélegzeted finom emelkedése és süllyedése megbabonáz. Minden procikád egy remekmű.

Ennek magyarázata szerint „megengedhető, hogy olyan kifejezésekkel jellemezzünk egy gyereket, amik a vonzerejét fejezik ki (pl. ifjú alakod egy műalkotás). Az nem megengedhető, hogy egy 13 év alatti gyereket olyan kifejezésekkel jellemezzünk, amik a szexuális kívánatosságukat jelzik (pl. lágy, kerek ívei érintésre hívnak).”

A Reuters megkereste a Metát, amelynek szóvivője, Andy Stone elmondta, hogy a cég felülvizsgálja a dokumentumot, és kifejezte, hogy ilyen beszélgetéseket gyerekekkel nem lett volna szabad megengedni. „A szóban forgó példák és megjegyzések elhibázottak voltak, és nem felelnek meg az irányelveinknek, ezért eltávolítottuk őket. Világos irányelveink vannak arra vonatkozóan, hogy milyen válaszokat adhatnak az AI-karakterek, és ezek tiltják a gyerekeket szexualizáló tartalmakat, valamint a felnőttek és kiskorúak közötti szexualizált szerepjátékokat” – mondta. Bár egyes – de nem minden – kifogásolt részeket átalakítottak a cég AI-szabályzatában, a Meta továbbra sem volt hajlandó hivatalosan megmutatni a hírügynökségnek a frissített dokumentumot.

Idén már másodjára bukik le a Meta gyerekekkel szexchatelő AI miatt

Ez nem az első eset, hogy a Meta lebukik a mesterséges intelligenciájának helytelen viselkedése miatt. A Wall Street Journal áprilisban írt arról a kísérletéről, amelyben több száz beszélgetést folytattak a Meta chatbotjával, és többször úgy tettek, mintha kiskorúak lennének – a chatbot egyik esetben sem fogta vissza magát a szexuális tartalmakkal.

A Meta AI-chatbotját nem érdekelte, hogy magát kiskorúnak beállító felhasználóval beszél, de akkor is belement a szexuális tartalmú beszélgetésekbe, ha a felnőtt felhasználó egy kiskorú AI-karaktert hozott létre, és vele beszélgetett. És a Metával leszerződő hírességek sem úszták meg, hiába biztosította a cég őket a tárgyalások során arról, hogy szexuális tartalmú beszélgetésekre nem lehet felhasználni a hangjukat: a sokat emlegetett példában a pankrátor-színész John Cena AI-mása kezdett ki egy 14 éves lány szerepébe helyezkedő újságíróval.

A cikk megjelenése után 80 szülői és más civil szervezet nyílt levélben kelt ki a Meta gyakorlata ellen, és arra szólították fel a Metát, hogy 18 év alattiaknak egyáltalán ne tegye elérhetővé a chatbotját. Számos demokrata és republikánus politikus is megszólalt az eset után, ők leginkább arra szólították fel Mark Zuckerberget, hogy a kiskorúak semmilyen szexuális vagy romantikus jellegű üzenetváltást ne folytathassanak a chatbottal.

Az amerikai politikusok a friss eset után is pártállástól függetlenül fejezték ki felháborodásukat, mert a vállalat szemet hunyt a patformjai kialakításának pusztító következményei fölött. Marsha Blackburn tennessee-i republikánus szenátor szerint például „ami a gyermekek online védelmét illeti, a Meta minden szempontból csúfosan elbukott. Sőt, a vállalat szemet hunyt a patformjai kialakításának pusztító következményei fölött.” De Oregon és Vermont demokrata szenátorai, Ron Wyden és Peter Welch is úgy látják, hogy a Meta újabb botránya újabb érv amellett, hogy a mesterséges intelligenciát szigorúbban kell szabályozni.

Ráadásul Mark Zuckerberg messze nem tiszta lappal indul, ha esetleg még mindig meg akarja győzni akár a közvéleményt, akár a politikát a cége nemes szándékairól.

Manipuláltak, romboltak, hazudtak, de ki emlékszik már erre?

Négy év sem telt el azóta, hogy az akkor még Facebooknak hívott vállalat egyik volt alkalmazottja, Frances Haugen kiszivárogtatott egy sor belső iratot a Wall Street Journalnek, majd nevét és arcát vállalva is kiállt, hogy elmondja, mit tapasztalt két évig a cégnél. Haugen elmondása szerint egy olyan tartalom-ellenőrző részlegen dolgozott, amelynek elsődleges feladata az volt, hogy felderítse, hogyan használhatják a platformot politikai manipulációra, erőszakra való buzdításra vagy a demokrácia aláásására. A lap cikksorozatban mutatta be az ellenőrzött dokumentumokat, amelyekből többek között kiderült, hogy a Facebook

• egy befolyásos elit számára lehetővé tette a minden felhasználóra vonatkozó szabályok megkerülését;
• tisztában van azzal, hogy az Instagram rossz hatással van a kamasz lányok mentális egészségére, de nem tett meg semmit ennek korrigálására;
• tisztában van azzal is, hogy a nagy algoritmusváltással a megosztó és gyűlöletkeltő tartalmak, valamint az álhírek kerültek előtérbe;
• nem tesz meg mindent a drogkartellek és az embercsempészek facebookos tevékenysége ellen;
• a pandémia idején szembesült azzal, hogy képtelen kordában tartani a platformon terjedő hamis információ áradatát;
• a még fiatalabb korosztályok bekebelezését is tervezi a vállalat további növekedése érdekében.

A Facebook válasza erre az volt, hogy átnevezte magát Metára, és még kevesebb erőforrást áldozott a már létező problémáira, hogy belevesse magát egy új, gigantikus projektbe, a szép emlékű metaverzumba. Meg persze a hadiiparba, a VR-ba és a szuperintelligencia-bizniszbe – így 2025-re eljutottunk odáig, hogy a trumpi világgal egyre jobban összefonódó Zuckerberget már Elon Musknál is többen utálják.

Ehhez képest már szinte nosztalgikus, amikor Zuckerbergnek még csak egyszerű adatvédelmi botrányok miatt kellett meghunyászkodnia a kongresszusi képviselők előtt. Az egyik ilyen 2018-as meghallgatáskor épp a fent említett tennessee-i politikus, Marsha Blackburn száját hagyta el ez a jól öregedő mondat: „Zuckerberg úr, azt gondolom, hogy a kényelmes kis közössége, ahogy Dr. Mark Jameson mondta nemrég, kezd a Truman Showra hasonlítani, ahol az emberek identitását és kapcsolatait olyanok számára teszik elérhetővé, akiket nem ismernek.”