Anthropic meldet Tagebucheinträge einer Nutzerin der Polizei

Eine Frau aus Flo­ri­da wurde wegen eines Ver­bre­chen­s­tat­be­stands an­ge­klagt, nach­dem An­thro­pic Ta­ge­buch­ein­trä­ge, die sie mit dem Chat­bot Clau­de ge­teilt hatte, an die Po­li­zei wei­ter­ge­ge­ben hatte1. Der Vor­fall löste auf Ha­cker News eine der größ­ten Dis­kus­si­o­nen der letz­ten Zeit aus, mit über 600 Punk­ten und fast 500 Kom­men­ta­ren1.

Der Fall wirft grund­sätz­li­che Fra­gen zum Um­gang von KI-An­bie­tern mit sen­si­blen, mög­li­cher­wei­se auf Ge­walt­andro­hun­gen hin­deu­ten­den Nut­zerein­ga­ben auf1. Dass ein Un­ter­neh­men wie An­thro­pic pri­va­te Chat­pro­to­kol­le an Straf­ver­fol­gungs­be­hör­den wei­ter­lei­tet, be­rührt zen­tra­le Dis­kus­si­o­nen über Da­ten­schutz und die Gren­zen der Ver­trau­lich­keit bei KI-Diens­ten1.

Die brei­te Re­ak­ti­on der On­line-Com­mu­ni­ty deu­tet dar­auf hin, dass viele Nut­zer die Pra­xis als Prä­ze­denz­fall für den künf­ti­gen Um­gang mit per­sön­li­chen Daten in KI-Chats wer­ten1. Un­klar bleibt aus der Be­richt­er­stat­tung, wel­che kon­kre­ten Kri­te­ri­en An­thro­pic für eine Mel­dung an Be­hör­den an­legt und wie trans­pa­rent die­ser Pro­zess ge­gen­über Nut­zern kom­mu­ni­ziert wird1.