3 Tačke
Članak

Apple koristi neaktivne Mac računare kao virtuelni GPU oblak

Apple istraživači opisali su sistem Minions koji neaktivne Mac računare pretvara u virtuelni GPU oblak za AI zadatke, uz kraće čekanje i nulte troškove infrastrukture.

3 Tačke
49 sekundi čitanja

Apple interno koristi sistem nazvan Minions, virtuelni GPU oblak sastavljen od neaktivnih Mac računara, prema radu objavljenom na arXiv platformi. Sistem preuzima zaglavljene AI poslove, koji su nekada čekali i više od deset sati u redu za GPU, i raspoređuje ih na Mac računare u mreži, skraćujući čekanje na svega nekoliko minuta. Zahtev se pokreće porukom na Slacku, ali postoji zabrinutost zbog podataka koji se obrađuju van matičnog tima.

Arhitektura se sastoji od Minion Servera, Minion Executora i Minion Watchdog-a, a oslanja se isključivo na Apple Silicon za AI inferenciju. Server deli zadatke na podzadatke u PostgreSQL bazi, dok Mac računari povlače posao preko REST API-ja, čitaju ulaze sa Amazon S3 i vraćaju rezultate. Watchdog prati otkucaje srca svakih pet minuta i vraća nedovršene poslove u red. Autori najavljuju buduće širenje na distribuirano treniranje modela.

Povezani članci