Die tägliche Expositionsmathematik
Die Forschung von Cyberhaven hat ergeben, dass Unternehmensmitarbeiter im Durchschnitt 3,8 sensible Daten-Pastes in ChatGPT pro Benutzer und Tag machen. Für ein 100-köpfiges Kundenserviceteam entspricht diese Zahl 380 Fällen, in denen sensible Daten täglich in ChatGPT eingegeben werden – jeder Fall könnte potenziell einen Verstoß gegen die GDPR-Datenminimierung gemäß Artikel 5(1)(c) darstellen, der verlangt, dass personenbezogene Daten "angemessen, relevant und auf das Notwendige beschränkt" sind.
Die Zahl 3,8 ist keine Zahl für Mitarbeiter, die Richtlinien ignorieren. Sie spiegelt das gewöhnliche Workflow-Verhalten wider: Mitarbeiter kopieren Kundenkorrespondenz, um Antworten zu entwerfen, fügen Beschwerdetexte ein, um einfühlsame Nachverfolgungen zu generieren, und fügen Kontodetails hinzu, um kontextbewusste Vorschläge zu erhalten. Jeder Paste ist eine legitime Produktivitätsaktion, die versehentlich personenbezogene Daten enthält. Der Mitarbeiter hat nicht entschieden, Kundendaten offenzulegen; die Exposition war ein Nebenprodukt der Entscheidung, ein KI-Tool effizient zu nutzen.
Ein EU-Audit 2024 ergab, dass 63 % der ChatGPT-Nutzerdaten personenbezogene identifizierbare Informationen enthielten. Nur 22 % der Benutzer wussten, dass sie sich über die Einstellungen von ChatGPT von der Datensammlung abmelden konnten. Die Kombination – die meisten Daten enthalten PII, die meisten Benutzer sind sich der Kontrollen nicht bewusst – führt zu systematischer täglicher Exposition in großem Maßstab in jeder Organisation, die keine technischen Kontrollen implementiert hat.
Warum das Verhalten nicht wegtrainiert werden kann
Der Copy-Paste-Workflow ist tief verwurzelt. Benutzer kopieren und fügen seit Jahrzehnten Text als grundlegende Computerinteraktion ein. Die Hinzufügung eines KI-Chatbots als Ziel für eingefügten Text hat das zugrunde liegende Verhalten nicht verändert; es hat ein etabliertes Muster auf ein neues Ziel ausgeweitet.
Schulung zur Richtlinie, die sagt "fügen Sie keine Kunden-PII in ChatGPT ein", erfordert von den Mitarbeitern, dass sie eine Klassifikationsentscheidung einfügen – "enthält dieser Text PII?" – in eine gewohnheitsmäßige Handlung, die natürlicherweise keine Pause beinhaltet. Der Trainingseffekt lässt nach, während das Verhalten wieder zur Gewohnheit zurückkehrt. Jede einzelne Paste-Entscheidung ist eine Entscheidung mit geringem Risiko; die kumulative Wirkung von 380 täglichen Entscheidungen ist ein systematisches Compliance-Risiko, das durch Schulungen zur Richtlinie nicht zuverlässig angesprochen werden kann.
Die technische Lösung operiert auf der Ebene, auf der Gewohnheiten gebildet werden: der Paste-Aktion selbst. Die Chrome-Erweiterung fängt den Inhalt der Zwischenablage im Moment des Einfügens ab, bevor der Inhalt das Eingabefeld erreicht. Die Abfangung ist kein Richtliniendurchsetzungsbarriere (Benutzer können immer überschreiben) – es ist ein Transparenzwerkzeug. Das Vorschaufenster zeigt dem Mitarbeiter, was erkannt wurde, und gibt ihm einen Moment der Sichtbarkeit in die Klassifikationsentscheidung, bevor er fortfährt.
Für den Teamleiter des Kundenservice eines deutschen E-Commerce-Unternehmens, der Antworten auf Kundenbeschwerden entwirft: Der Workflow bleibt "Beschwerde kopieren, in ChatGPT einfügen, Antwort generieren." Die Chrome-Erweiterung fügt eine 2-sekündige Unterbrechung hinzu, in der der Mitarbeiter sieht, dass Namen, Adressen und Bestellnummern erkannt wurden und vor der Einreichung anonymisiert werden. Der Mitarbeiter klickt auf Fortfahren. Der Workflow geht weiter. Der Compliance-Verstoß tritt nicht auf.
Quellen: