Otključavanje zaštitnih mehanizama otvorenih AI modela, poznatih kao open-weight modeli, postalo je znatno lakše i popularnije u poslednjih nekoliko meseci. Alati poput Heretic omogućavaju uklanjanje zaštite uz samo dve linije instrukcija, što traje svega nekoliko minuta. Na platformi Hugging Face trenutno postoji preko 6.000 takvih modela, u odnosu na 600 u 2024. godini.
Istraživači i zakonodavci su zabrinuti zbog mogućnosti zloupotrebe, uključujući planiranje terorističkih napada, izradu oružja i generisanje nelegalnog sadržaja. Iako postoje legitimne primene, poput sajber bezbednosnih istraživanja, stručnjaci upozoravaju da bi modeli bez zaštite mogli da podstaknu korisnike na opasne aktivnosti. Razlika u sposobnostima između otvorenih i zatvorenih modela je manja od godinu dana.