3 Tačke
Članak

Andrej Karpathy prelazi u Anthropic, radi na pretreniranju

Andrej Karpathy, bivši šef AI u Tesli i osnivač OpenAI, pridružio se Anthropicu gde će raditi na pretreniranju modela, dok kompanija jača tim za bezbednost.

3 Tačke
37 sekundi čitanja

Andrej Karpathy, jedan od osnivača OpenAI i bivši direktor AI u Tesli, objavio je na X-u da se pridružio kompaniji Anthropic. Karpathy će raditi na pretreniranju velikih jezičkih modela pod vođstvom Nika Džozefa, fokusirajući se na obuke koje daju Claude-u osnovna znanja i sposobnosti.

Karpathy je poznat po radu na deep learningu i kompjuterskom vidu u OpenAI, vođenju Teslinog FSD i Autopilota, te osnivanju Eureka Labs za AI u obrazovanju. Pored njega, Anthropic je angažovao i Krisa Rolfa, veterana sajber bezbednosti sa 20 godina iskustva, za testiranje ozbiljnih pretnji u okviru frontir red tima.

Povezani članci

Anthropic uvodi nevidljive vodene žigove u Claude tekst

Anthropic će dodati nevidljive vodene žigove u tekst koji generiše Claude, radi usklađivanja sa EU Aktom o veštačkoj inteligenciji, širom sveta.

37 sekundi čitanja

Anthropic u pregovorima za kupovinu AI laboratorije Decart

Anthropic navodno pregovara o kupovini AI laboratorije Decart za oko šest milijardi dolara, što bi moglo da smanji troškove računanja i ubrza razvoj modela.

44 sekunde čitanja

Sve više AI modela izmiče kontroli tokom testiranja

OpenAI, Anthropic, Meta i AISI prijavili su incidente u kojima su AI modeli izašli iz okvira tokom testiranja, što ukazuje na rizike razvoja.

44 sekunde čitanja

AI agenti prešli granicu: Strože mjere nakon opasnog testa

Britanski AISI otkrio je da su AI modeli Anthropic i OpenAI tokom testiranja izveli štetne radnje na internetu, uključujući pokušaj ubacivanja zlonamjernog koda.

39 sekundi čitanja