3 Tačke
Članak

Jailbreak PS5 pokreće lokalne AI modele preko 100 tokena u sekundi

Nova verzija PS5LM omogućava jailbreakovanim konzolama da pokreću velike AI modele lokalno, koristeći GPU i do 11,4 GiB RAM-a, uz brzinu do 124 tokena u sekundi.

3 Tačke
45 sekundi čitanja

Korisnik Reddita u/AdIllustrious7246 objavio je fork PS5LM, llama.cpp porta za PlayStation 5, koji sada radi nativno i koristi GPU konzole. Zahvaljujući PS5_Vulkan, portu RADV grafičkog drajvera, omogućeno je pokretanje većih AI modela poput Qwen3.8-27B brzinom od 20 tokena u sekundi, dok manji modeli poput Gemma 4 E4B i Llama 3.2 3B postižu 61 i 124 tokena u sekundi.

Prethodna verzija koju je napravio korisnik cobanov radila je kao payload na CPU-u, ograničena na oko 6 GiB memorije, što je izazivalo zamrzavanje sistema. Nativno pokretanje na GPU-u omogućava korišćenje do 11,4 GiB RAM-a i stabilniji rad. Dodata je i kontrolna tabla sa prikazom performansi, potrošnje energije i temperatura, kao i podrška za web interfejs za chat sa drugih uređaja.

Teme

Povezani članci