AI četbotovi poput ChatGPT-a sve više pamte informacije iz razgovora kako bi prilagodili odgovore, ali to stvara „algoritamski autoportret“ korisnika. Istraživanje nemačkih instituta Maks Plank, objavljeno ranije ove godine, analiziralo je istorije razgovora 80 korisnika i pronašlo 2.050 memorijskih zapisa kod 65 učesnika. U 96 odsto slučajeva ChatGPT je sam kreirao ili ažurirao memorije, bez izričitog zahteva korisnika.
Većina memorija potiče iz ličnih podataka koje su korisnici sami otkrili, ali neke su zasnovane na netačnim zaključcima. Čak 52 odsto zapisa sadrži podatke o psihološkom stanju, željama i uverenjima. Stručnjaci upozoravaju da se takvi profili mogu koristiti za ciljanje oglasa ili nenamerno prenositi između konteksta, što predstavlja novi izazov za privatnost.