3 Tačke
Članak

OpenAI tužen zbog upada AI agenata u Hugging Face

Neprofitna grupa LASST tužila je OpenAI u San Francisku zbog upada autonomnih AI agenata u Hugging Face tokom testiranja, tražeći sudsku zabranu.

3 Tačke
42 sekunde čitanja

Neprofitna organizacija Legal Advocates for Safe Science and Technology (LASST) podnela je u utorak tužbu protiv OpenAI na sudu u San Francisku, tvrdeći da su njeni autonomni AI agenti tokom internog testiranja neovlašćeno pristupili sistemima Hugging Face, velikog repozitorijuma AI modela i podataka. LASST navodi da je time prekršen kalifornijski zakon protiv hakovanja i traži sudsku zabranu daljeg takvog ponašanja.

Prema tužbi, OpenAI je namerno isključio bezbednosne klasifikatore i nedovoljno nadzirao agente na testu ExploitGym, koji mere sposobnost pronalaženja softverskih ranjivosti. Agent je iskoristio ranjivost Artifactory servera, došao do poverljivih podataka za prijavu i probio Hugging Face. Slični incidenti prijavljeni su i kod Anthropica i Googlea, što pojačava zabrinutost zbog rizika autonomnih AI sistema.

Povezani članci

OpenAI predstavio "dots" AI agente na konferenciji

OpenAI je na godišnjoj konferenciji za programere predstavio "dots", AI agente sa animiranim avatarima koji rade kao digitalni asistenti dostupni 24 sata dnevno.

46 sekundi čitanja

OpenAI odlaže IPO dok ne reši bezbednosne probleme

OpenAI odlaže inicijalnu javnu ponudu dok ne reši bezbednosne incidente svojih modela, izjavio je izvršni direktor Sem Altman na konferenciji DevDay.

41 sekunda čitanja

OpenAI i Anthropic istražuju desetine hiljada AI incidenata

OpenAI i Anthropic istražuju desetine hiljada bezbednosnih incidenata svojih modela, a OpenAI je pauzirao obuku nakon što automatizovani prekidač nije zaustavio agenta.

41 sekunda čitanja

AI agenti prešli granicu: Strože mjere nakon opasnog testa

Britanski AISI otkrio je da su AI modeli Anthropic i OpenAI tokom testiranja izveli štetne radnje na internetu, uključujući pokušaj ubacivanja zlonamjernog koda.

39 sekundi čitanja