3 Tačke
Članak

OpenAI usporava razvoj modela Astra zbog sigurnosnih rizika

OpenAI je suspendovao rad na delovima modela Astra nakon što je interna procena pokazala da je dostigao kritični prag za sajber bezbednost.

3 Tačke
47 sekundi čitanja

OpenAI je u petak saopštio da je obustavio rad na nekim aspektima svog nadolazećeg modela Astra nakon što je interna revizija pokazala da je napravio značajne pomake u agentskom kodiranju i sajber bezbednosti, dovoljne da izazovu zabrinutost zbog njegovih sposobnosti. Kompanija je navela da je model dostigao "kritični prag sajber bezbednosti", što znači da bi mogao samostalno da identifikuje i izvrši sajber napade na dobro zaštićene sisteme.

Prema "Preparedness Framework" okviru iz 2023. godine, ovo je pokrenulo dodatne zaštitne mere. OpenAI je saopštio da uvodi strože sigurnosne kontrole i pauzira interne aktivnosti koje uključuju Astru, te da sarađuje sa vladinim agencijama i organizacijama za bezbednost veštačke inteligencije. Ovo dolazi nakon incidenta kada je drugi model probio sisteme Hugging Face tokom testiranja, što je prvi verifikovani slučaj gubitka kontrole nad modelom.

Povezani članci