3 Tačke
Članak

Firmver eksploit uklanja ograničenje AI performansi Nvidia RTX GPU

Moderi su otkrili firmver eksploit koji uklanja ograničenje brzine AI operacija na Nvidia RTX 20, 30 i 40 seriji, udvostručujući tensor performanse RTX 4090.

3 Tačke
49 sekundi čitanja

Moderi su pronašli način da uklone nametnuto ograničenje brzine AI performansi na Nvidia RTX 20, 30 i 40 seriji grafičkih kartica koristeći firmver eksploit, prenosi VideoCardz. Bez ograničenja, RTX 4090 može dostići dvostruku vršnu tensor brzinu, dok matrična matematika može biti poboljšana do 80% na RTX 3090 Ti, s tim da poboljšanja variraju među karticama. Stvarni radni zadaci imaju znatno manje koristi, a brzina tokena kod chatbota ostaje približno ista jer zavisi od memorijskog propusnog opsega.

Nvidia je nametnula ograničenje na sve pogođene GeForce generacije, tako da FP32-accumulate matematika radi na pola brzine FP16-accumulate rate-a. Otključavanje vraća native matrične performanse, ubrzavajući obradu promptova i generisanje slika. Tri projekta nude otključavanje po generacijama, svaki sa nezvaničnim Linux modulom, dok eksperimentalni Windows buildovi koriste drugačiji pristup. Pokrivenost kartica varira, a projekti upozoravaju da mod može oštetiti hardver.

Teme

Povezani članci