3 Tačke
Članak

Microsoft VP predstavio GPU Taskman za praćenje VRAM-a

Skot Hanselman, potpredsednik Microsofta, objavio je open-source alat GPU Taskman koji prikazuje potrošnju VRAM-a po procesima i AI/LLM zadatke na Windowsu, Linuxu i macOS-u.

3 Tačke
44 sekunde čitanja

Skot Hanselman, potpredsednik Microsofta, predstavio je novi open-source projekat na GitHubu pod nazivom gputaskman. Reč je o alatki za praćenje GPU resursa koja radi na Windowsu, Linuxu i macOS-u, a prikazuje potrošnju VRAM-a po procesima, aktivne runtime-ove i druge statistike. Hanselman je na društvenim mrežama objasnio da mu je cilj da dobije uvid u to gde odlazi memorija njegove grafičke kartice.

Alat poseduje i napredne funkcije za AI i LLM zadatke, pa tako prikazuje detalje poput broja parametara modela i keša. Hanselman je podelio portabilnu verziju v0.3.0 za Windows, a u komentarima nagovestio da bi proširene mogućnosti praćenja GPU-a mogle postati standardni deo Windowsa. Softver je dostupan pod MIT licencom, a izvorni kod je javno dostupan na GitHubu.

Teme

Povezani članci