Elon Musk és a Google fejesei is aláírták a nyilatkozatot, amelyben megígérik: nem építenek halálos AI-fegyvert

2018.07.18. · TECH

Az emberiség jövőjéről a technológiai kihívásokat figyelembe véve gondolkodó szervezet, Az Élet Jövője Intézet (The Future of Life Institute) oldalán jelent meg az a nyilatkozat, amelyben a mesterséges intelligencia (AI) területén dolgozó 164 szervezet és 2410 személy tesz ígéretet arra, hogy kutatásaikat jó célra használják, és nem fejlesztenek ki halálos AI-fegyvereket.

„A mesterséges intelligencia egyre nagyobb szerepet játszhat a katonai rendszerekben. Az állampolgároknak, törvényhozóknak és vezetőknek sürgősen különbséget kell tenniük az AI elfogadható és elfogadhatatlan használata között. Ennek fényében mi, aláírók egyetértünk abban, hogy az emberi élet elvételének döntését sosem szabad a gépek kezébe adni” – írják a nyilatkozatban, amelynek végén arra kérik a techcégeket és a kormányokat, hogy szabályokban és törvényekben rendelkezzenek a halálos AI-fegyverek ellen.

Amilyen nehéz irányítani, olyan könnyű feltörni

Az aláírók közt a legnagyobb mesterséges intelligenciával foglalkozó cégek, a nagy AI-szervezetek, valamint több egyetem és kutatóközpont között megtaláljuk a terület legfontosabb szereplőjét, a Google DeepMindot és vezetőit, de magánszemélyként az az Elon Musk is aláírta a nyilatkozatot, aki a Tesla és a SpaceX mellett az OpenAI nevű kutatócég alapítója is.

Az Élet Jövője Intézet szerint az intelligens fegyverekkel szemben felmerülő etikai kérdések mellett az is szerepet játszik az azok nemzetközi tiltását sürgető javaslatokban, hogy egy átmeneti technológiai időszakban nagy esély van arra, hogy az ilyen fegyvereket nehéz lesz irányítani, de annál könnyebb meghackelni, illetve a feketepiacon beszerezni. Hogy mekkora káoszt okozhatnak a halálos AI-fegyverek, arról egy sötét jövőt illusztráló videót is készítettek:

link Forrás

Yoshua Bengio, a montréali Tanuló Algoritmusok Intézetének kutatója szerint a kormányzati nyomásgyakorlás mellett arra is jó lehet a nyilatkozat, hogy megszégyenítse az intelligens fegyvereket gyártó cégeket, és így ellenük hangolja a közvéleményt. „Ez a fajta megközelítés már bevált a taposóaknáknál, amelyek betiltása nemzetközi egyezményeknek és a nyilvános megszégyenítésnek is köszönhető volt. Annak ellenére, hogy például az Egyesült Államok nem írta alá az aknák tiltását, az amerikai cégek abbahagyták a gyártásukat” – mondta Bengio a Guardiannek.

Az ENSZ 2016 decembere óta tárgyalja az intelligens fegyverek szabályozásának lehetőségeit; legutóbb idén áprilisban jelentette ki 26 tagország, hogy támogatja azok tiltását. Az ENSZ legközelebb augusztusban ülésezik a témában, és a nyilatkozat aláírói azt remélik, hogy még szélesebb egyetértés alakul ki a halálos AI-fegyverek betiltásának ügyében.

link Forrás