3 Tačke
Članak

Entuzijasta ugradio bučni Tesla V100 u gejming PC za 266 dolara

Entuzijasta je za 266 dolara ugradio Nvidia Tesla V100 sa 16 GB VRAM-a u svoj gejming računar, postigavši ukupno 32 GB za lokalne LLM modele.

3 Tačke
41 sekunda čitanja

Entuzijasta Oskar Molnar je za 266 dolara nabavio Nvidia Tesla V100 SXM2 karticu sa 16 GB HBM2 memorije, SXM2-na-PCIe adapter i modifikovao hlađenje kako bi smanjio buku. Nakon podešavanja, sistem sa RTX 4080 (16 GB) i Tesla V100 (16 GB) ima ukupno 32 GB VRAM-a, što omogućava pokretanje lokalnih velikih jezičkih modela (LLM).

Molnar je koristio NixOS sa starijim Nvidia drajverom koji podržava i Volta i Ada arhitekturu. Testirao je model od 27 milijardi parametara koji radi brzinom od 32 tokena u sekundi, što je dovoljno za interaktivnu upotrebu i brže od većine cloud API rešenja. Buka ventilatora je smanjena na 10% snage, što drži temperaturu ispod 50°C.

Povezani članci

Kineski modder pokrenuo GeForce RTX 4060 na Arm Windows 11

Modder je uspeo da pokrene Nvidia GeForce RTX 4060 na Huawei radnoj stanici sa Arm procesorom koristeći modifikovane drajvere sa Nvidia RTX Spark računara.

42 sekunde čitanja

Nvidia predstavila DLSS 5 sa tri AI moda za različite nivoe detalja

Nvidia je na SIGGRAPH-u prikazala DLSS 5 sa tri modela koji se mogu menjati u realnom vremenu, uz očuvanje umetničke vizije i optimizaciju performansi.

41 sekunda čitanja

Lokalni AI klaster sa dva Dell Pro Max GB10 sistema

Dell Pro Max GB10 sistemi sa Nvidia GB10 SoC-om omogućavaju skaliranje lokalnog AI računarstva kroz klaster od dva uređaja sa 256GB RAM-a, koristeći RoCE preko ConnectX 7 NIC-a.

43 sekunde čitanja

Pasivno hlađenje RTX 4060 sa aluminijumskim hladnjakom od 2,5 kg

Modder je na Nvidia GeForce RTX 4060 ugradio masivni pasivni aluminijumski hladnjak od 2,5 kg, postižući temperature od 58°C u igri bez ventilatora.

39 sekundi čitanja