Najveće kompanije za razvoj veštačke inteligencije upozoravaju da bi tehnologija mogla postati suviše moćna i izmaći ljudskoj kontroli. Izvršni direktor OpenAI, Sem Altman, podsetio je Savet bezbednosti UN na brzinu napretka AI modela, koji su za nekoliko godina prešli put od osnovnoškolskih do vrhunskih matematičkih zadataka. Altman strahuje i od koncentracije moći u rukama malog broja kompanija ili država.
Sličan stav zastupa i Dario Amodei iz kompanije Anthropic, koji upozorava da bi AI mogla biti zloupotrebljena za razvoj biološkog oružja. Obe kompanije tvrde da su spremne da sarađuju na strožim propisima. Američki predsednik Donald Tramp smatra da su upozorenja preterana i da bi stroga regulacija ugrozila prednost SAD u trci sa Kinom.