3 Tačke
Članak

Anthropic tvrdi da je blizu rekurzivnog samopoboljšanja AI

Anthropic u izmenjenom S-1/A dokumentu upozorava da bi rekurzivno samopoboljšanje AI moglo nastupiti uskoro, uz nove mere bezbednosti i nadzora.

3 Tačke
40 sekundi čitanja

Anthropic je u najnovijoj reviziji svog S-1/A dokumenta, objavljenoj u ponedeljak, upozorio da bi rekurzivno samopoboljšanje (RSI) moglo biti blizu. RSI označava tačku u kojoj računarski sistem može autonomno da unapredi sebe, a poboljšana verzija zatim nastavlja isti proces. TechCrunch je uočio novi deo u odeljku „Faktori rizika“, gde se navodi da bi RSI mogao nastupiti „uskoro“.

Kompanija tvrdi da će, u slučaju ubrzanog napretka izazvanog AI, primeniti stroge mere iz svoje Politike odgovornog skaliranja. To uključuje „ambiciozne i moguće nekonvencionalne“ pristupe bezbednosti, potpuni nadzor nad internim aktivnostima („oči na svemu“) i smanjenje oslanjanja na bug bounty programe. Anthropic navodi i da će unaprediti red-teaming kako bi sprečio katastrofalne scenarije.

Teme

Povezani članci

Cathedral tvrdi da je hakirao sisteme Anthropica

Startap Cathedral, koji su osnovali bivši članovi DOGE-a, saopštio je da je njegov AI agent pronašao ranjivosti u Anthropicovim sistemima preko softvera trećih strana.

43 sekunde čitanja

AI-crvi prete pametnim uređajima u domaćinstvima

Istraživači kompanije Anthropic upozoravaju da bi AI-crvi mogli da zaraze pametne televizore i usisivače, dok nedavni napadi u Francuskoj pokazuju ranjivost umreženih sistema.

45 sekundi čitanja

Anthropic prijavio gubitak od 23,3 milijarde dolara

Anthropic je u trećem kvartalu ostvario prihod od 17 milijardi dolara, ali i neto gubitak od 23,3 milijarde, uz obaveze od 895 milijardi za računarske resurse.

38 sekundi čitanja

Anthropic upozorava na samoreplicirajući AI virus na IoT uređajima

Anthropic tvrdi da bi se samoreplicirajući AI modeli mogli širiti pametnim uređajima poput digitalne plesni, dok stručnjaci optužuju kompaniju za preterivanje.

45 sekundi čitanja