Az OpenAI igazgatója szerint az AI negatívumait el kell fogadni a technológia előnyeiért
Sam Altman, az ChatGPT-t is fejlesztő technológiai vállalat vezérigazgatója szerint az egyre fejlettebb AI-rendszerek hackertámadásokat és csalásokat fognak eredményezni, és „más rossz dolgokat, amelyek meg fognak történni” – idézi a Guardian. „Az egyik különbség köztünk és néhány szigorúbb AI-biztonsági szakember között az, hogy szerintünk a világnak el kell fogadnia, hogy bizonyos rossz dolgok megtörténnek ennek a technológiának az előnyeiért és azért, hogy az embereknek meglegyen a lehetőségük [az AI széles körű használatára] – mondta Altman a Politico Decoded című podcastjában.
A GhatGPT-t is fejlesztő cég vezérigazgatóját azután kérdezték, hogy a vállalatának egyik biztonsági szakértője lemondott, és a hétvégén azt nyilatkozta, hogy a cég „kultúrája tönkrement” – írja a Guardian. Az AI-fejlesztő cégek tevékenységei a saját munkavállalóik körében is megosztó véleményeket váltanak ki: az Anthropic egyik kutatója korábban felmondott, miután másik két kutatótársával kijelentették, hogy a mesterséges intelligencia „ennek az évtizednek a végére mindannyiunkat megölhet”.
Altman szerint az enyhébb AI-fejelsztésekre vonatkozó szabályok sürgetése „magában foglalja annak a ténynek az elfogadását is, hogy bizonyos negatív események bekövetkeznek majd, miközben a társadalom megtanulja, hogyan kell rugalmasan reagálni”. Ron DeSantis, Florida kormányzója erre válaszul azt nyilatkozta, hogy „nem kér belőle”, hogy „egy maroknyi technológiai oligarcha dönthessen erről [a biztonságról] mindannyiunk helyett”. Florida állam főügyésze múlt héten arra kérte a bíróságot, hogy tiltsa meg az OpenAI-nak, hogy harmadik fél által jóváhagyott biztonsági intézkedések nélkül fejlessze az új AI-modelljeit.
Kapcsolódó cikk:
Saját modelljét fékezi az OpenAI, mert az már emberi segítség nélkül is képes kibertámadásokra
Az OpenAI szünetelteti a már tudományos felfedezéseket tett, de hackerkedésre is képes Astra modellt érintő munkálatok egy részét, és kormányzati szervekkel, biztonsági intézetekkel közösen teszteli tovább a képességeit.