Iako se očekuje da tehnologija vremenom postaje jeftinija, AI industrija se suočava s paradoksom: troškovi upotrebe rastu kako modeli napreduju. Ključni problem je amplifikacija tokena, gde agentički zadaci troše milione tokena umesto nekoliko hiljada. Svaki korak u višestepenom zadatku zahteva ponovnu obradu celokupnog konteksta, što geometrijski povećava potrošnju.
Finansijski, jedan složen izveštaj može koštati 10 dolara, a ako se pokreće svakih 15 minuta, mesečni trošak dostiže skoro 29.000 dolara. Velike kompanije poput Ubera i Majkrosofta već ograničavaju potrošnju na AI. Iako postoje tehnike za smanjenje troškova, poput keširanja i grupne obrade, napredak modela podstiče sve složenije zadatke, što čini kontrolu troškova trkom bez kraja.