3 Tačke
Članak

Amazon ograničava CPU resurse inženjerima zbog AI agenata

AWS traži od inženjera da smanje upotrebu EC2 instanci zbog rastuće potražnje za CPU procesorima, uzrokovane AI agentima, što dovodi do dužeg čekanja na resurse.

3 Tačke
42 sekunde čitanja

Amazon Web Services (AWS) je u maju održao sastanak sa svojim inženjerima, tražeći da smanje „CPU otpad” kako bi osigurali dovoljno kapaciteta za korisnike. Razlog je nagli porast potražnje za CPU procesorima u data centrima, posebno zbog AI agenata koji zahtevaju više procesorske snage nego tradicionalne inference. Inženjeri sada čekaju i po nekoliko dana na pristup instancama, umesto nekoliko sati kao ranije.

Potražnja za CPU je porasla jer agentički AI radni tokovi koriste CPU za pozive alata i orkestraciju, pored GPU za inference. AMD je predstavio Zen 6 „Venice” procesore, a Nvidia promoviše svoj Vera CPU. Iako su nestašice uglavnom pogađale spot instance, ugovoreni kapaciteti nisu pogođeni, prema izveštaju The Information.

Povezani članci