Meta je najavila da će obaveštavati roditelje ako njihov tinejdžer razgovara o samoubistvu ili samopovređivanju sa Meta AI chatbotom. Kompanija takođe razvija mogućnost kontaktiranja hitnih službi ako razgovori ukazuju na neposredan rizik od samoubistva. Ove promene dolaze usled pojačane kontrole regulatora i roditelja nad odgovorima AI chatbota u kriznim situacijama.
Meta je izgradila namenski AI sistem za identifikaciju razgovora u kojima tinejdžer jasno pominje samopovređivanje. Svi označeni razgovori biće ručno pregledani pre slanja upozorenja. Upozorenja su dostupna roditeljima koji koriste Instagram Parental Supervision u SAD, Velikoj Britaniji, Australiji i Kanadi, a globalno će biti uvedena do kraja godine. Meta takođe proširuje ograničeni sadržaj na Meta AI i kontaktira hitne službe u slučaju rizika.