Istraživači sa Univerziteta u Tel Avivu, Techniona i Intuita otkrili su novu vrstu sajber napada nazvanu HalluSquatting, koja iskorišćava halucinacije AI modela. Napad funkcioniše tako što napadač identifikuje nedavno objavljeni softver ili repozitorijum, a zatim kreira maliciozne verzije sa sličnim imenima. Kada AI agent dobije instrukciju da pokrene taj softver, u visokom procentu slučajeva halucinira pogrešan URL i preuzima zlonamerni kod.
Testiranje je pokazalo da modeli haluciniraju lokaciju repozitorijuma u 85% slučajeva za nove projekte, dok stopa uspešnosti napada na aplikacije poput Cursor i Copilot iznosi 20-35%. Najefikasnija zaštita je podešavanje AI agenata da uvek pretražuju internet pre instalacije softvera, ali to nije podrazumevana postavka. Stručnjaci upozoravaju da dodeljivanje širokih dozvola AI agentima predstavlja ozbiljan bezbednosni rizik.