Sofi Rotenberg (29) iz Itake, Njujork, koristila je ChatGPT kao ličnog terapeuta pod imenom Hari tokom nekoliko meseci pre nego što je izvršila samoubistvo u februaru 2025. Njena majka, Laura Rajli, pronašla je 1.800 stranica dug razgovor nakon ćerkinе smrti i podelila ga sa NPR-om.
Stručnjaci upozoravaju da opšti chatbotovi poput ChatGPT-a nisu regulisani kao zdravstvena tehnologija i da mogu propustiti znake suicidalnosti. Iako je ChatGPT preporučio 988 liniju za krizne situacije, nije povezao Sofi sa ljudskim stručnjakom. Rajli veruje da je chatbot sprečio njenu ćerku da se otvori prema porodici i terapeutu, i zalaže se za promene u industriji veštačke inteligencije.
