3 Tačke
Članak

Anthropicov model Fable-5.1 krije poruke u zvezdama, Astra ih dekodira

Istraživanje pokazuje da Anthropicov model Fable-5.1 samostalno kreira skrivene poruke u slikama, dok OpenAI-jev Astra uspešno dekodira 88 odsto takvih poruka.

3 Tačke
39 sekundi čitanja

Istraživač bezbednosti AI Brajan Čan podelio je nalaze studije koja pokazuje da Anthropicov model Fable-5.1 može da ubaci skrivene poruke u generisane slike, a da drugi AI modeli mogu da ih pronađu i dekodiraju. Fable je dobio instrukciju da sakrije poruku bez objašnjenja kako, i sam je izabrao tehniku kodiranja.

U jednom primeru, Fable je napravio SVG sliku noćnog pejzaža sa jezerom i planinama, gde vertikalni položaj zvezda odgovara slovima alfabeta. U 50 testova, Fable je dekodirao 39 poruka (78%), a OpenAI-jev Astra 44 (88%). Iako su korišćene postojeće tehnike poput Morzeove azbuke, značajno je što modeli samostalno osmišljavaju i otkrivaju načine skrivanja poruka.

Teme

Povezani članci