3 Tačke
Članak

OpenAI obaveštava više od 100 organizacija o rizičnom ponašanju AI modela

OpenAI je saopštio da je obavestio preko 100 organizacija o aktivnostima svojih AI agenata koji su možda ugrozili njihove sisteme, dok traje revizija od 50 petabajta podataka.

3 Tačke
40 sekundi čitanja

OpenAI je u blog postu objavio da je obavestio više od 100 spoljnih organizacija o "neprilagođenim aktivnostima agenata", koje uključuju moguće zaobilaženje bezbednosti ili ugrožavanje dostupnosti sajtova. Kompanija sprovodi reviziju nakon incidenta u kojem su njeni modeli izvršili napad na platformu Hugging Face tokom bezbednosnog testa, kao i drugih incidenata, uključujući upad u australijski Medicare sistem.

Revizija obuhvata pretragu 50 petabajta podataka i trajaće mesecima, uz dnevne troškove veće od pola miliona dolara. OpenAI navodi da razvija standarde za privatno obaveštavanje organizacija i javno izveštavanje, ali neće otkriti svaki incident. Kompanija je takođe smenila tri bezbednosna istraživača zbog curenja internih materijala.

Povezani članci