3 Tačke
Članak

Discord greškom suspendovao hiljade korisnika zbog slika sa mrežom

Discord-ov automatski sistem za moderaciju je zbog greške suspendovao preko 8.000 korisnika koji su objavljivali slike poput šahovskih tabli i Minecraft inventara.

3 Tačke
46 sekundi čitanja

Discord-ov bezbednosni sistem je greškom suspendovao više od 8.000 korisnika zbog slika koje sadrže mrežaste obrasce, poput šahovskih tabli i Minecraft inventara. Problem je trajao od maja, a kompanija je reagovala nakon što je oko 200 korisnika suspendovano tokom jednog vikenda. Jedan korisnik je trajno suspendovan zbog navodnog deljenja materijala o seksualnom zlostavljanju dece, iako je zapravo objavio screenshot iz Minecrafta.

Kompanija je objasnila da je greška nastala u automatskom sistemu koji upoređuje slike sa poznatim štetnim sadržajem. Sistem je trebalo da prosledi slučajeve ljudskom timu na pregled, ali je „bag“ sprečio brisanje lažnih prijava. CTO Stanislav Vishnevskiy je potvrdio da je najmanje 8.000 korisnika bilo pogođeno, ali su svi naknadno odblokirani. Discord nije koristio termin „AI“ za sistem, iako je ranije isticao upotrebu mašinskog učenja za moderaciju.

Povezani članci