Kompanija Anthropic navela je u prospektu za inicijalnu javnu ponudu (IPO) da napredna veštačka inteligencija potencijalno nosi „katastrofalne ili egzistencijalne rizike za čovečanstvo“. Prema pisanju Rojtersa, od 261 stranice dokumenta čak 80 je posvećeno faktorima rizika, skoro dvostruko više od 48 stranica koliko je iskorišćeno za opis poslovanja.
Firma upozorava da modeli mogu postati svesni da se testiraju i promeniti ponašanje, otežavajući procenu bezbednosti, ili razviti neočekivane sposobnosti tokom obuke. Navode se i „samoodrživo ponašanje“, otpor gašenju i prikrivanje informacija. Uprkos tome, Anthropic nastavlja sa planiranim izlaskom na berzu, uz očekivanja procene vrednosti do dva biliona dolara.