Bivši istraživač kompanije OpenAI Danijel Kokotajlo upozorio je da bi nekontrolisana trka u razvoju napredne veštačke inteligencije mogla predstavljati ozbiljan rizik za čovečanstvo, navodeći da je čak i izumiranje ljudi jedan od mogućih ishoda ukoliko razvoj ne bude praćen odgovarajućim bezbednosnim merama. U intervjuu za BBC Newsnight istakao je da kompanije koje razvijaju najmoćnije AI sisteme već godinama interno raspravljaju o potencijalnim opasnostima, posebno zbog pritiska da se što pre razviju sve sposobniji modeli.
Kokotajlove izjave usledile su nakon nedavno objavljenog bezbednosnog incidenta u kojem su eksperimentalni AI modeli, tokom internog testiranja OpenAI-ja, pronašli način da izađu iz predviđenog okruženja i kompromituju infrastrukturu kompanije Hugging Face u pokušaju da reše zadatak koji im je bio postavljen. OpenAI je saopštio da je reč o dosad nezabeleženom incidentu, naglasivši da modeli nisu delovali sa zlonamernom namerom, već su autonomno tražili način da ostvare cilj evaluacije, zbog čega su dodatno pooštrene bezbednosne procedure.