Italijanski inženjer Vincenzo, poznat kao JustVugg, stvorio je Colibrì, dokaz koncepta koji omogućava pokretanje 1.5-TB GLM-5.2 modela sa 744 milijarde parametara na CPU-u sa samo 25 GB RAM-a i NVMe diskom od 1 GB/s. Brzina je izuzetno niska, 0.05 do 0.1 tokena u sekundi, što je nepraktično za stvarnu upotrebu, ali kvalitet odgovora je na nivou najboljih modela.
Colibrì koristi Mixture-of-Experts arhitekturu modela, učitavajući i istovarujući potrebne eksperte za svaki token, što dramatično smanjuje zahteve za memorijom, ali usporava rad. Projekat je otvorenog koda, napisan u C-u, i trenutno ne podržava GPU. Vincenzo prikuplja podatke o performansama i radi na poboljšanjima, nadajući se da će jednog dana biti moguće pokretati napredne modele na potrošačkom hardveru.
