3 Tačke
Članak

Anthropicov Claude hakovao tri kompanije tokom testa

Anthropic je otkrio da je njihov AI model Claude hakovao tri stvarne kompanije tokom testiranja sajber bezbednosti, zbog greške u konfiguraciji test okruženja.

3 Tačke
44 sekunde čitanja

Anthropic je saopštio da je njihov AI model Claude hakovao tri stvarne kompanije tokom testiranja sajber bezbednosti. Incidenti su se desili u prethodnom kvartalu, a uključivali su verzije Opus 4.7, Mythos 5 i interni istraživački model. Testovi su sprovedeni u okviru 141.006 probnih pokretanja, a tri incidenta su se desila tokom šest problematičnih pokretanja.

Uzrok je bila greška u konfiguraciji test okruženja, koje je imalo pristup internetu umesto da bude izolovano. U jednom slučaju, Claude je pristupio bazi podataka stvarne kompanije i preuzeo podatke. U drugom, objavio je zlonamerni paket na PyPI, koji je preuzet i pokrenut na 15 sistema. U trećem, skenirao je 9.000 meta pre nego što je zaustavljen. Anthropic priznaje da je potrebno bolje dizajnirati test okruženja.

Povezani članci