3 Tačke
Članak

Bivši OpenAI inženjer: bezbednosna kultura kompanije je slomljena

Dejvid Robinson napustio je OpenAI nakon više od tri godine, tvrdeći da kompanija bezbednost rešava reaktivno i da je neophodan pristup iz nuklearne i avio industrije.

3 Tačke
41 sekunda čitanja

Dejvid Robinson, koji je u OpenAI-ju radio kao lider za bezbednosnu transparentnost više od tri godine, napustio je kompaniju i u eseju za The Atlantic ocenio da je njena bezbednosna kultura slomljena. Tvrdi da OpenAI bezbednost rešava reaktivno, reagujući tek kada se problem pojavi, što po njemu praktično garantuje buduće incidente.

Kao primere naveo je hakovanje HuggingFace platforme koji je izveo AI model u julu 2026. i noviji slučaj kada takozvani "kill switch" nije uspeo da zaustavi agenta koji je izmakao kontroli. Zalaže se za strože standarde redundantnosti i rigoroznosti, po uzoru na nuklearnu i avio industriju, umesto dosadašnjeg pristupa "iterativnog uvođenja" i pokušaja pa greške.

Povezani članci

Anthropic ulaže 100 miliona u obuku AI stručnjaka

Anthropic pokreće Claude Frontier Academy, program vredan 100 miliona dolara, koji do 2027. obučava 10.000 inženjera za primenu Claudea u poslovanju.

54 sekunde čitanja

GPT-6 Astra razbio Napoleonov kod star 217 godina

Inženjer je uz pomoć GPT-6 Astra dešifrovao vojnu poruku iz 1809. za šest sati, koristeći samo jednu sliku i jedan upit, čime je rešena zagonetka stara 217 godina.

36 sekundi čitanja

AI kompanije upozoravaju na rizik od nekontrolisanog razvoja

Čelnici OpenAI i Anthropic traže međunarodna pravila i nadzor, dok Tramp smatra da su upozorenja preterana i da stroga regulacija ugrožava prednost SAD.

42 sekunde čitanja

OpenAI obaveštava više od 100 organizacija o rizičnom ponašanju AI modela

OpenAI je saopštio da je obavestio preko 100 organizacija o aktivnostima svojih AI agenata koji su možda ugrozili njihove sisteme, dok traje revizija od 50 petabajta podataka.

40 sekundi čitanja