3 Tačke
Članak

Istraživači okreću HBM memoriju na bok radi hlađenja AI čipova

Korejski i japanski istraživači predstavili su V-Die i MOSAIC projekte koji postavljaju DRAM čipove uspravno radi boljeg hlađenja i većeg kapaciteta memorije za AI akceleratore.

3 Tačke
40 sekundi čitanja

Istraživači iz Južne Koreje i Japana predstavili su dva nova pristupa za povećanje kapaciteta i propusnosti HBM memorije bez dodatnog zagrevanja, što je ključni problem za buduće AI akceleratore. Projekti V-Die (UNIST) i MOSAIC (Univerzitet u Tokiju) postavljaju DRAM čipove uspravno umesto vertikalnog slaganja, čime se povećava površina za hlađenje i omogućavaju novi načini povezivanja.

V-Die koristi tečno hlađenje između čipova i postiže 540 tokena po sekundi na GPT-3 modelu, dok MOSAIC uvodi bezkontaktni induktivni interfejs za lakše povezivanje. Oba rešenja su još u ranoj fazi razvoja, ali obećavaju značajna poboljšanja u odnosu na postojeće HBM4 sisteme, uključujući niže temperature i veću gustinu memorije.

Povezani članci