Die doppelte Haftung unsachgemäßer Redaktion
Rechtsteams sehen sich zwei verschiedenen Modi des Redaktionsversagens gegenüber, die beide Haftung schaffen.
Unter-Redaktion setzt privilegierte Inhalte, vertrauliche Geschäftsinformationen oder persönliche Daten frei, die hätten zurückgehalten werden müssen. Die produzierende Partei hat Material offengelegt, das sie hätte schützen dürfen — und in einigen Fällen auch schützen müssen.
Über-Redaktion hält relevante Informationen zurück, die die gegnerische Partei erhalten darf. Die produzierende Partei hat den Entdeckungsprozess behindert und möglicherweise Beweismittel hinter unrechtmäßigen Privilegien versteckt. Gerichte behandeln Über-Redaktion als eine Entdeckungsverletzung, die Sanktionen nach sich ziehen kann.
KI-unterstützte Redaktionswerkzeuge, die den Rückruf über die Präzision priorisieren — maximal potenziell sensible Inhalte kennzeichnen — produzieren systematisch den zweiten Fehlermodus. Wenn eine KI-Redaktionsmaschine 80 % des Inhalts eines Dokuments redigiert, um sicherzustellen, dass nichts Privilegiertes übersehen wird, ist die resultierende Produktion funktional nutzlos und potenziell sanktionierbar.
Athletics Investment Group gegen Schnitzer Steel (2024)
Der Fall Athletics Investment Group gegen Schnitzer Steel von 2024 veranschaulicht die gerichtliche Reaktion auf unsachgemäße Redaktion in der E-Discovery.
Der Fall betraf einen kommerziellen Streit, bei dem die Dokumentenproduktion einer Partei Redaktionen enthielt, die von der gegnerischen Partei als unbegründet angefochten wurden. Das Gericht prüfte die redigierten Materialien und stellte fest, dass die Redaktionen über das hinausgingen, was das Privilegrecht oder die Vertraulichkeitsdoktrinen erlaubten.
Die Konsequenz: Entdeckungsstrafen. Das Gericht verhängte Strafen gegen die produzierende Partei wegen der unsachgemäßen Redaktionen — ein Rechtsmittel, das gemäß der Federal Rule of Civil Procedure 37 für Entdeckungsverletzungen zur Verfügung steht. Die produzierende Partei trug die Verantwortung dafür, einen unzureichenden Redaktionsprozess verwendet zu haben.
Der Fall ist bedeutend, nicht weil Sanktionen wegen Über-Redaktion neu sind — Gerichte haben sie seit Jahren verhängt — sondern weil er in einer Rechtslandschaft stattfand, in der KI-unterstützte Überprüfungswerkzeuge mittlerweile üblich sind. Die Frage, die der Fall aufwirft, ist, ob die Rechtsteams die Präzisionseigenschaften ihrer KI-Redaktionswerkzeuge bewertet haben, bevor sie sich auf diese für die Produktion verlassen haben.
Das 22,7%-Präzisionsproblem
Presidio, die Open-Source-PII-Erkennungsmaschine, die von Microsoft entwickelt wurde und in juristischen Technologieanwendungen weit verbreitet ist, erreicht eine 22,7%-Präzisionsrate bei juristischen Dokumenten in unabhängigen Benchmarks.
Präzision misst, wie oft die positiven Identifikationen des Werkzeugs korrekt sind. Eine Präzisionsrate von 22,7 % bedeutet, dass ungefähr 77 von 100 Elementen, die vom Werkzeug als sensibel gekennzeichnet wurden, tatsächlich nicht die Sensibilitätsschwelle erfüllen, für die sie gekennzeichnet wurden.
Für eine E-Discovery-Anwendung hat dies direkte operationale Konsequenzen. Ein Produktionssatz von 10.000 Dokumenten, die mit einem Werkzeug bearbeitet wurden, das 22,7 % Präzision erreicht, wird Tausende von Redaktionen enthalten, die keine legitime Grundlage für Privileg oder Vertraulichkeit haben. Die produzierende Partei, die sich auf dieses Ergebnis verlässt, sieht sich demselben Risiko aus wie die Partei im Fall Athletics Investment Group: eine Produktion, die von der gegnerischen Partei angefochten wird, ein Gericht, das den redigierten Inhalt prüft, und Sanktionen, wenn die Redaktionen nicht gerechtfertigt werden können.
Die 22,7%-Zahl spiegelt die Standardkonfiguration von Presidio bei juristischen Inhalten wider. Sie repräsentiert nicht alle KI-unterstützten Redaktionswerkzeuge — aber sie stellt die Basisleistung der am häufigsten eingesetzten Open-Source-Maschine in juristischen Technologieintegrationen dar.
Das Präzisionsproblem ist strukturell: NLP-basierte Entitätserkennungssysteme, die auf allgemeinen Textkorpora trainiert wurden, arbeiten anders bei juristischer Sprache, die Fachbegriffe, Abkürzungen, Dokumentenformatierungs-Konventionen und Zitierstrukturen verwendet, die sich von den Trainingsdaten unterscheiden. Ein Werkzeug, das bei medizinischen Unterlagen oder Finanzberichten akzeptable Präzision erreicht, kann bei Protokollen von Vernehmungen, Korrespondenz und Vertragsanhängen erheblich schlechter abschneiden.
Was die Analyse von KI-Chatbot-Inhalten offenbart
Der Kontext für die Einführung von KI-Tools in der juristischen Praxis wird durch Nutzungsdaten festgelegt: 27,4 % des Inhalts von KI-Chatbots sind sensibel, laut einer unabhängigen Analyse der Nutzungsmuster von Unternehmens-KI-Tools.
Diese Zahl beschreibt, was Mitarbeiter KI-Tools vorlegen, wenn sie diese für Arbeitsaufgaben verwenden — nicht Daten, die sie absichtlich geteilt haben, sondern zufällig enthaltene sensible Inhalte. Für Juristen, die KI-Tools verwenden, um Korrespondenz zu entwerfen, Vernehmungen zusammenzufassen, Verträge zu analysieren oder Rechtsprechung zu recherchieren, gelangen sensible Inhalte als Nebenprodukt normaler Arbeit in die KI-Plattformen.
Die 27,4%-Zahl zeigt, dass fast drei von zehn Interaktionen mit KI-Tools in einem juristischen Umfeld sensible Inhalte betreffen — Mandanteninformationen, privilegierte Kommunikationen, vertrauliche Fallstrategien oder Daten der gegnerischen Partei. Diese Inhalte erreichen die Infrastruktur des KI-Anbieters in nutzbarer Form, es sei denn, technische Kontrollen unterbrechen sie zuerst.
Für Kanzleien, die ihre KI-Sicherheitslage bewerten, ist 27,4 % kein marginales Risiko. Es ist die Basisannahme: Fast ein Drittel der Nutzung von KI-Tools in einem juristischen Umfeld wird Inhalte betreffen, die Schutz erfordern.
Die kaskadierende Haftungskette
Über-Redaktion und die Datenexposition durch KI-Tools schaffen unterschiedliche, aber verwandte Haftungsketten für Rechtsteams.
Haftungskette der Über-Redaktion: KI-Tool kennzeichnet Dokumente maximal → Anwalt überprüft Ausgabe, ohne jede Redaktion einzeln zu prüfen → Produktion wird mit unbegründeten Redaktionen eingereicht → gegnerische Partei fordert Einspruch → Gericht prüft → Sanktionen.
Haftungskette der KI-Exposition: Anwalt verwendet KI-Tool zur Unterstützung bei der Fallbearbeitung → KI-Tool erhält privilegierte Mandantenkommunikationen, vertrauliche Strategien oder sensible Falldaten → Infrastruktur des KI-Anbieters wird kompromittiert → Mandantendaten werden offengelegt → Anwalts-Mandanten-Privileg könnte betroffen sein → Haftungsrisiko.
Beide Ketten beginnen am selben Punkt: Rechtsteams setzen KI-Tools ein, ohne die technischen Eigenschaften dieser Tools zu verstehen oder Kontrollen zu implementieren, die für die juristische Arbeit angemessen sind.
Präzision-zuerst-Redaktion für juristische Produktionen
Der gerichtliche Standard für Redaktionen ist nicht auf Rückruf optimiert. Gerichte, die angefochtene Redaktionen bewerten, fragen, ob jede spezifische Redaktion durch Privileg, Vertraulichkeitsdoktrin oder anwendbare Schutzanordnung gerechtfertigt war — nicht ob das Werkzeug der produzierenden Partei so viel wie möglich zur Sicherheit gekennzeichnet hat.
Eine Redaktion, die nicht gerechtfertigt werden kann, ist eine Entdeckungsverletzung, unabhängig davon, ob sie von einem menschlichen Prüfer oder einem KI-Tool produziert wurde. Die Anfrage des Gerichts ist dokumentenspezifisch, nicht systemübergreifend.
Für Rechtsteams hat dies operationale Implikationen: Redaktionswerkzeuge müssen hinsichtlich der Präzision bewertet werden — dem Prozentsatz der gekennzeichneten Elemente, die tatsächlich privilegiert oder vertraulich sind — nicht nur hinsichtlich des Rückrufs. Ein Werkzeug, das 90 % Rückruf mit 22,7 % Präzision erreicht, kann mehr sensible Inhalte erfassen, aber es verursacht eine manuelle Überprüfungsbelastung für die 77,3 % der falsch positiven Ergebnisse und schafft systematische Über-Redaktionsrisiken, wenn diese Überprüfung nicht erfolgt.
Die juristische Umgebung erfordert Präzision auf Dokumentenebene. Jede Redaktion in einer Produktion stellt eine implizite Behauptung gegenüber dem Gericht dar, dass der redigierte Inhalt rechtmäßig zurückgehalten wird. Der Standard nach Athletics Investment Group ist klar: Diese Behauptung muss genau sein.
Quellen: