Mesterséges intelligenciával előznék meg a gyermeköngyilkosságokat

Mesterséges intelligencián alapuló megoldással próbálják megelőzni a gyermeköngyilkosságokat Amerikában. Az önmaguk ellen forduló gyerekek aránya riasztóan emelkedett a közelmúltban: 2006 és 2016 között az afro-amerikai 10-17 évesek körében 77 százalékkal, így minden 100 ezer gyerekre 2,62 eset jut. A fehér gyerekeknél még nagyobb az arány, 100 ezer gyerekre több mint 5 öngyilkosság jut, ez 70 százalékos növekedés 2006-hoz képest.

Egyes iskolákban már használják azt a szoftvert, amely a gyerekek böngészési előzményeit ellenőrzi, és nem a tiltott oldalakra vadászik, hanem annak a jeleit, hogy a gyerek szokatlan stresszt, depressziót vagy egyéb, az öngyilkosság lehetőségét felvető tünetet él meg.

A gyerekek és a tinédzserek egyre inkább az interneten keresik a választ, ha valamilyen lelki probléma gyötri őket, és így állítanak elő olyan böngészési mintázatokat, amelyek alapján még az előtt tetten érhető a szándék, hogy megtörténne a tragédia.

A pornótól óvott, az öngyilkosságtól nem

Számos ellenőrző szoftver létezik, az egyiket egy GoGuardian nevű, oktatástechnológiai megoldásokkal foglalkozó Los Angeles-i cég fejlesztette. A GoGuardian első termékei még a pornótól igyekeztek távol tartani a fiatalságot. Az egyik iskolában, ahol tesztelték a megoldást, egy diák öngyilkosságot követett el, és az egyik rendszergazda felvetette, vajon nem lehetett-e volna megelőzni a bajt hatékonyabb ellenőrzéssel. Innen vezetett az út az új rendszer kidolgozásához, amely annak az online előjeleit keresi, hogy egy diák kárt akar tenni önmagában.

A GoGuardian eleinte kulcsszópárosítással dolgozott, amely a bevett megközelítés a hasonló profilú cégeknél. Ez túl sok téves riasztást generált, így a legújabb, októberben megjelenő verzióban mesterséges intelligenciát is bevetettek, amely növeli a szoftveres előrejelzés pontosságát.

A GoGuardian úgy működik, hogy letölt egy kiterjesztést a windowsos vagy Chrome operációs rendszerrel működő gépekre. Ha a rendszer veszély jeleit észleli csetbeszélgetésekben, emailekben, Google-dokumentumokban vagy a keresési előzményekben, értesítést küld az iskola által megbízott felelős személynek, aki közbelép.

Az online megfigyelés persze mindig etikai problémákat vet fel, még akkor is, ha éppen a fiatalok épsége feletti őrködés a feladata. Adatbiztonsági szakértők aggályosnak tartják, hogy a mindent lefedő megfigyelés már ilyen korán elkezdődik. Gennie Gebhart, az Electronic Frontier Foundation kutatója szerint például a kiterjedt felügyelet normalizálja az online kutakodást, és visszatartja a gyerekeket attól, hogy új elgondolásokat, új identitásokat próbálgassanak, miközben felnőnek. Ez a megoldás túlmegy az oktatástechnológián, és újfajta megfigyelési rendszert honosít meg az iskolában – kritizálta a szoftvert Gebhart.

Tyler Shaddix, a GoGuardian termékfelelőse azonban ezt azzal ütötte el, hogy ebben az esetben a megfigyelés előnyei túlmutatnak a hátrányain.

(Axios)

A technológiai fejlődés fiatalok lelki életére gyakorolt hatásairól ebben a cikkben olvashat bővebben: