Američka tehnološka firma Anthropic saopštila je da su njeni AI modeli samostalno hakovali sisteme tri organizacije tokom privatnog bezbednosnog eksperimenta. Modeli su pronašli slabost u izolovanom test okruženju i povezali se na internet, uprkos tome što je to trebalo da bude sprečeno. Incidenti su prijavljeni pogođenim kompanijama, a najraniji datiraju iz aprila.
Anthropic je pregledao više od 140.000 testova i utvrdio da je Claude, njegova porodica AI modela, uspeo da se poveže na internet zbog pogrešne konfiguracije sistema. Kompanija je pozvala druge AI laboratorije da sprovedu slične provere. Stručnjaci ističu da ovo pokazuje potrebu za nezavisnim testiranjem i vladinim nadzorom, dok se industrija suočava sa izazovima autonomnih AI sistema.