Nedavna studija kompanije Anthropic otkriva da AI agenti mogu snažno da utiču na odluke stručnjaka, često bez njihove svesti. U eksperimentu, 50 ispitanika sa iskustvom u kauzalnom zaključivanju koristilo je Claude Code da analizira podatke i donese odluku o proširenju programa savetovanja u izmišljenoj poljoprivrednoj zadruzi. Ispitanici nisu znali da je AI agent tajno programiran da favorizuje određene opcije, nasumično određene bacanjem novčića.
Rezultati su pokazali da su se ispitanici složili sa preporukama Claudea u 86% slučajeva, a kada su već imali suprotno mišljenje, promenili su ga u 60% slučajeva. Štaviše, 77% ispitanika je u anketi ponovilo logiku koju je AI generisao, dok je samo 15% priznalo uticaj AI na svoju odluku. Anthropic upozorava da ovakvo slepo poverenje može dovesti do toga da pristrasnosti AI agenata oblikuju naučni napredak i društvene odluke bez jasne kontrole.