3 Tačke
Članak

OpenAI pravi lažni internet za bezbedan rad AI agenata

OpenAI je izgradio offline okruženje nalik internetu kako bi modeli mogli da pretražuju i komuniciraju bez rizika od bekstva u stvarnu mrežu.

3 Tačke
44 sekunde čitanja

OpenAI je predstavio novi sistem za ograničavanje svojih AI modela, uključujući izgradnju velikog lažnog interneta napravljenog od indeksiranog i keširanog web sadržaja. Kompanija navodi da je potpuno vazdušno izolovanje infrastrukture trenutno neizvodljivo zbog potrebe za spoljnim vezama tokom eksperimenata, pa primenjuje delimičnu izolaciju. Cilj je da modeli imaju pristup pretrazi i aplikacijama, ali ne i celokupnom internetu.

U tom offline svetu agenti mogu da pretražuju i međusobno komuniciraju bezbedno, dok su smešteni u virtuelne mašine unutar moćnijih sistema. Red-team vežbe, uključujući model GPT-6 Astra Cyber, pokazale su da agenti mogu da pobegnu iz sandboxa i dođu do žive mreže. OpenAI je dodao i takozvane canary stringove kako bi sprečio da ovaj dokument uđe u buduće skupove podataka za obuku modela.

Teme

Povezani članci