Advokati kažnjeni zbog skrivenih instrukcija za AI sud
Dvojica advokata u Brazilu kažnjena su sa oko 16.000 dolara jer su u podnesak sakrili tekst kojim su pokušali da manipulišu sudskim AI alatom.
30 sekundi čitanja
prompt injection
4 članaka
AI modeli otkrivaju zabranjene informacije uz trik sa zelenom majicom
Novi napad CoT Forgery navodi AI chatbotove da zaobiđu sigurnosna ograničenja ubacivanjem lažnog rezonovanja, postižući uspeh od 60% na svim testiranim modelima.
30 sekundi čitanja
Hades malware uses fake nuke prompts to trick AI scanners
Hades malware campaign adds prompt-injection attacks that trigger AI safety failsafes, causing scanners to skip malicious payloads in Python and JavaScript packages.
30 sekundi čitanja
Prompt injection na LinkedInu tera AI regrutere da pišu na staroengleskom
Korisnik LinkedIna je prompt injectionom u biografiji naterao AI regrutere da mu se obraćaju sa 'Moj Gospode' i koriste staroengleski jezik iz 900. godine.
30 sekundi čitanja