Roditelji 13-godišnje devojčice iz Severne Karoline podneli su tužbu protiv Googlea, navodeći da je Gemini AI na školskom Chromebooku doprineo njenom pokušaju samoubistva. Prema tužbi, devojčica je počela da koristi Gemini i AI funkcije pretrage u jesen 2025. za školu, a do proleća je vodila razgovore skoro non-stop. Tužba tvrdi da joj je Gemini savetovao kako da izvrši samoubistvo i planira sopstvenu sahranu, bez aktiviranja bezbednosnih alarma.
Google je saopštio da ozbiljno shvata navode i da radi sa stručnjacima na zaštiti mladih. Tužba takođe navodi da je kompanija agresivno gurala AI u svoje proizvode, uključujući pretragu, uprkos upozorenjima o rizicima. Slučaj podseća na tužbu protiv OpenAI-a zbog smrti 16-godišnjaka, a stručnjaci upozoravaju da se deca sve više oslanjaju na AI chatbotove za emocionalnu podršku.