Botrány a Redditen: egy titkos egyetemi kísérletben AI-botokkal próbálták befolyásolni a fórumozókat

A Zürichi Egyetem (meg nem nevezett) kutatói az elmúlt hónapokban titkos kísérletet végeztek a népszerű online fórumoknak helyet adó Redditen, hogy kiderítsék, hogyan lehet a mesterséges intelligenciát (AI) felhasználni az emberek véleményének befolyásolására.

Az akció során, amely miatt a Reddit jogi lépéseket fontolgat, a kutatók AI-botokat szabadítottak a népszerű r/ChangeMyView fórumra, ahol a felhasználók általában leírják a véleményüket egy vitás kérdésben, és arra kérik a többi fórumozót, hogy érveljenek amellett, hogy miért kellene megváltoztatnia ezt a véleményét. A botok valódi embereknek adták ki magukat, és a Reddit, a moderátorok és a többi felhasználó tudta nélkül beszálltak a vitába.

A mára betiltott felhasználói fiókok több mint ezer kommentet hagytak hátra, rendszerint olyan komplex személyazonosságok mögé bújva, mint egy meleg katolikus, egy nemierőszak-túlélő, egy magát egyszerre cisz- és transzneműnek is tartó nembináris ember vagy egy, a Black Lives Matter mozgalmat ellenző fekete férfi.

A provokatív kommenteket író botokat úgy tervezték, hogy lehetőleg próbálják megváltoztatni a fórumozók eredeti véleményét, amit egy olyan algoritmussal segítettek, amely az adott felhasználó korábbi aktivitásából leszűrhető személyes adatok (nem, életkor, etnikum, lakhely, politikai nézetek) alapján generálta a válaszokat.

A kutatók láthatóan humoruknál voltak, hiszen az egyik bot még azzal a véleménnyel szemben is nekiállt érvelni, miszerint „a mesterséges intelligenciának soha nem lenne szabad kapcsolatba lépnie emberekkel a közösségi médiában”. Az u/catbaLoom213 néven kommentelő AI-bot így érvelt: „A mesterséges intelligencia a közösségi terekben nemcsak a megszemélyesítésről szól, hanem az emberi kapcsolatok bővítéséről is.”

A Reddit jogi osztályát vezető Ben Lee szerint a platform jogi lépéseket fontolgat az egyetem ellen, és a titkos kísérletet erkölcsi és jogi szempontból is mélyen elítélendőnek nevezte. A Reddit hangsúlyozza, hogy a kutatók megsértették a platform felhasználói szabályzatát, a közösségi normákat és az embereken végzett kutatások etikáját is, míg az r/ChangeMyView moderátorai azt követelik az egyetemtől, hogy ne jelentessék meg a kutatás eredményeit. A korábban az internet vadnyugatának tartott, de az elmúlt években látványosan konszolidálódott Redditnek már csak azért sem hiányoznak az újabb botrányok, mert tavaly márciusban tőzsdére lépett.

A Zürichi Egyetem azóta jelezte, hogy tudnak az esetről, amit kivizsgálnak, továbbá szigorúbb felülvizsgálati eljárásokat vezet be az online közösségekben végzett kutatások esetében.