Wie vermutet, merkt sich OpenAI / ChatGPT nun, was man so chatted. Aus dem Chatverlauf wird ein Profil generiert und im sogenannten „Memory“ gespeichert.
Das Chatten soll sich dadurch verbessern, da ChatGPT dann einiges über die Perosn weiß und ständig dazulernt, z.B. was die Interessen sind, ob mensch Kinder hat …
Damit bietet chatGPT eine neue Angriffsfläche: Wer Zugriff auf das Profil bekommt, weiß einiges über die Person und kann das gezielt ausnutzen. Zunächst OpenAI und vermutlich auch Microsoft, aber künftig vielleicht auch Partner, die passgenauen Content liefern, wie mensch es vonbden Social Media Plattformen kennt. Und Kriminelle dürften auch ein Interesse haben, denn Identitätsdiebstahl wird mit einem gehackten Profil leichter.
Im Default ist der „Memory“ aktiviert und wird auch zum Training des LLM genutzt – immerhin kann beides in den Tiefen der Einstellungen deaktiviert werden (aber eben nur als Opt-out). Auch wenn es mühsam ist und der Chat vielleicht nicht so flüssig startet wie mit „Gedächtnis“ sollte jede*r die Memory-Funktion deaktivieren.
Weitere Informationen