Prema izveštaju Wall Street Journala, stotine korisnika širom sveta su prošlog leta pitale ChatGPT kako da naprave otrove i biološko oružje. Izvori iz OpenAI-ja i stručnjaci za biološko oružje potvrdili su da su upiti bili stvarni, a ne simulacije. Stručnjaci su ocenili da su neki odgovori bili smrtonosno tačni i na nivou znanja srednjoškolca.
OpenAI je saopštio da su korisnici blokirani, ali vlasti nisu obaveštene osim u slučajevima verodostojne pretnje. Kompanija tvrdi da modeli odbijaju štetne zahteve i da se bezbednost testira pre objavljivanja. Ipak, zabrinutost raste zbog napretka tehnologije i mogućnosti stvaranja necenzurisanih modela koji bi mogli da dospiju u ruke zlonamernih aktera.