Sam Altman, az OpenAI nemrég kirúgott vezére szerint a ChatGPT mögött álló modellek további áttörés nélkül nem vezetnek el az általános mesterséges intelligenciához vagy a szuperintelligenciához. Az MTA múlt heti konferenciáján részt vevő filozófusok is amellett érveltek, hogy jelenlegi formájában az AI nem érhet fel az emberi gondolkodáshoz.
A programozókban, fizikusokban, mérnökökben, filozófusokban és a Terminátor rajongóiban egyre gyakrabban felmerül a kérdés, hogy valóban létrejön-e egy olyan szuperintelligencia, aminek már nem tudunk parancsolni. Az emberi hülyeség természetének ismeretében úgy tűnik, egyelőre nagyobb az esély arra, hogy az emberiség maga okozza saját vesztét, mint arra, hogy az elszabadult mesterséges intelligencia végez vele.
Egy elméleti kutatás szerint a szuperintelligenciák kockázatát két módon mérsékelhetjük: megfosztjuk a tanulás lehetőségétől, vagy tervezünk hozzájuk egy vészleállító algoritmust. Az első megoldás egy hülye gépet eredményez. A második megvalósíthatatlan.