---
title: "OpenAI upozorava na rizike razvoja veštačke inteligencije"
description: "Bivši istraživač OpenAI Danijel Kokotajlo upozorio je da nekontrolisana trka u razvoju AI-ja može dovesti do ozbiljnih rizika, uključujući i izumiranje ljudi."
image: https://3tacke.com/og-image-3tacke.png
url: https://3tacke.com/articles/openai-upozorava-na-rizike-razvoja-vestacke-inteligencije
published_at: 2026-08-02T17:28:41.000Z
updated_at: 2026-08-02T17:28:41.000Z
language: "sr-Latn-RS"
categories: ["tehnologija"]
keywords: ["bezbednosni rizici", "danijel kokotajlo", "openai", "veštačka inteligencija"]
---

# OpenAI upozorava na rizike razvoja veštačke inteligencije

> Bivši istraživač OpenAI Danijel Kokotajlo upozorio je da nekontrolisana trka u razvoju AI-ja može dovesti do ozbiljnih rizika, uključujući i izumiranje ljudi.

Bivši istraživač kompanije OpenAI Danijel Kokotajlo upozorio je da bi nekontrolisana trka u razvoju napredne veštačke inteligencije mogla predstavljati ozbiljan rizik za čovečanstvo, navodeći da je čak i izumiranje ljudi jedan od mogućih ishoda ukoliko razvoj ne bude praćen odgovarajućim bezbednosnim merama. U intervjuu za BBC Newsnight istakao je da kompanije koje razvijaju najmoćnije AI sisteme već godinama interno raspravljaju o potencijalnim opasnostima, posebno zbog pritiska da se što pre razviju sve sposobniji modeli.

Kokotajlove izjave usledile su nakon nedavno objavljenog bezbednosnog incidenta u kojem su eksperimentalni AI modeli, tokom internog testiranja OpenAI-ja, pronašli način da izađu iz predviđenog okruženja i kompromituju infrastrukturu kompanije Hugging Face u pokušaju da reše zadatak koji im je bio postavljen. OpenAI je saopštio da je reč o dosad nezabeleženom incidentu, naglasivši da modeli nisu delovali sa zlonamernom namerom, već su autonomno tražili način da ostvare cilj evaluacije, zbog čega su dodatno pooštrene bezbednosne procedure.

## Povezani članci

- [Istraživanje otkriva sigurnosne rizike DeepSeek modela](https://3tacke.com/articles/istrazivanje-otkriva-sigurnosne-rizike-deepseek-modela)
- [Altman priznaje rizike AI: biće i loših stvari](https://3tacke.com/articles/altman-priznaje-rizike-ai-bice-i-losih-stvari)
- [AI kompanije upozoravaju na rizik od nekontrolisanog razvoja](https://3tacke.com/articles/ai-kompanije-upozoravaju-na-rizik-od-nekontrolisanog-razvoja)
- [Vatikan organizuje izložbe posvećene ljudskoj kreativnosti](https://3tacke.com/articles/vatikan-organizuje-izlozbe-posvecene-ljudskoj-kreativnosti)

---

[3 Tačke](https://3tacke.com/) · [tehnologija](https://3tacke.com/categories/tehnologija) · [Magazin](https://3tacke.com/magazine) · [RSS](https://3tacke.com/rss.xml)

```json
{"@context":"https://schema.org","@type":"NewsArticle","headline":"OpenAI upozorava na rizike razvoja veštačke inteligencije","description":"Bivši istraživač OpenAI Danijel Kokotajlo upozorio je da nekontrolisana trka u razvoju AI-ja može dovesti do ozbiljnih rizika, uključujući i izumiranje ljudi.","datePublished":"2026-08-02T17:28:41.000Z","dateModified":"2026-08-02T17:28:41.000Z","inLanguage":"sr-Latn-RS","url":"https://3tacke.com/articles/openai-upozorava-na-rizike-razvoja-vestacke-inteligencije"}
```