3 Tačke
Članak

AI agenti troše i do 136 puta više energije od generativnih modela

Istraživanje KAIST-a otkriva da AI agenti troše u proseku 348,41 Wh po upitu, što je 136,5 puta više od standardnih generativnih AI modela.

3 Tačke
43 sekunde čitanja

Nova studija Korejskog instituta za naprednu nauku i tehnologiju (KAIST) pokazala je da AI agenti mogu potrošiti i do 136,5 puta više energije po upitu od standardnih generativnih AI modela. Dok obični LLM zahtevi funkcionišu po principu pitanje-odgovor, agentička AI zahteva višestruke korake i kontinuirano pingovanje modela, što dovodi do prosečne potrošnje od 348,41 vat-čas po upitu.

Osim veće potrošnje energije, agentička AI ima i 153,7 puta duže vreme odziva, što dovodi do neefikasnosti GPU-a koji su u stanju mirovanja 54,5% vremena. Već postoji na stotine hiljada AI agenata na platformama poput Moltbooka, a istraživači upozoravaju da bi pri 13,7 milijardi zahteva dnevno potražnja za energijom mogla dostići 198,9 GW, što je polovina trenutne potrošnje SAD.

Povezani članci