Prema podacima Andreessen Horowitza i OpenRoutera, AI agenti su u avgustu potrošili 7,3 biliona tokena, dok su ljudi potrošili 1,4 biliona. Daniel Newman iz Futurum Groupa predviđa da će taj odnos porasti na 10 prema 1 i više. Više od 85 odsto tokena agenata dolazi iz keširanih upita, što znači da agenti uglavnom ponovo čitaju ono što su već videli.
Iako keširani tokeni smanjuju troškove obrade, oni i dalje zahtevaju memoriju, što povećava potražnju za HBM-om. Micron očekuje da će se nestašica RAM-a i skladišnog prostora pogoršati 2027. i 2028. godine. Ako se rast upotrebe agenata nastavi, korisnici računara će se takmičiti za memoriju sa sve više AI agenata.
