2026년 업데이트
법원에서 "AI가 했습니다"는 실패합니다
AI 도구는 새로운 법적 위험을 만들었습니다. 변호사들은 종종 시스템이 콘텐츠를 차단한 이유를 설명할 수 없습니다. 판사가 물을 때, "알고리즘이 표시했습니다"는 충분하지 않습니다.
FRCP 규칙 26(b)(5)가 기준을 설정합니다. 자료를 보류하는 당사자는 주장을 명시해야 합니다. 또한 문서를 설명해야 합니다. 그 설명은 상대방이 내용을 드러내지 않고 특권을 평가할 수 있도록 해야 합니다.
"ML 모델이 제거했습니다"는 그 기준을 충족하지 못합니다. 상대방은 무엇이 탐지됐는지 알 수 없습니다. 이유도 알 수 없습니다.
과다 처리가 분쟁을 유발합니다
Morgan Lewis의 2025년 1분기 전자 증거 개시 연구는 과다 처리를 연방 법원에서 활성 분쟁 원인으로 표시했습니다. 추세는 고감도 AI 도구와 연결됩니다. 이 도구들은 회상률을 우선시합니다. 민감할 수 있는 모든 것을 잡습니다.
부작용은 예측 가능합니다. 이름 근처의 날짜가 차단됩니다. 전시 번호가 차단됩니다. 맥락이 무시됩니다.
상대방 변호사가 각 차단 항목에 이의를 제기합니다. 제출 당사자는 각각을 설명해야 합니다. 엔티티별 기록이 없으면 설명이 불가능합니다.
이의가 제기된 항목을 설명할 수 없을 때, 법원은 재제출을 명령할 수 있습니다. 재제출은 시간과 비용이 소요됩니다. 일부 경우 제재를 초래합니다.
방어 가능한 시스템에 필요한 세 가지
법원은 이의가 제기된 항목을 하나씩 검토합니다. 좁은 질문을 합니다. 이 특정 문서에서 이 특정 항목의 근거는 무엇인가?
대부분의 AI 도구는 이에 답할 수 없습니다. 세 가지 기능이 이를 가능하게 합니다.
엔티티별 신뢰도 점수. 각 차단 항목은 점수가 매겨진 탐지로 추적되어야 합니다. "94% 신뢰도로 탐지된 이름"은 방어 가능합니다. "ML에 의해 표시됨"은 그렇지 않습니다.
엔티티 유형 분류. 각 차단 항목은 인정된 유형에 매핑되어야 합니다. 인명. 주민번호. 생년월일. 그 유형이 특권 로그에 들어갑니다.
임계값 기록. 구성을 문서화해야 합니다. 어떤 민감도 수준을 사용했나요? 어떤 엔티티 유형이 범위에 있었나요? 상대방 변호사가 이 기록을 요청할 수 있습니다.
83%의 거버넌스 의무
IAPP 2025 연구는 **AI 거버넌스 프레임워크의 83%**가 AI 입력 레이어에서 데이터 최소화를 요구한다는 것을 발견했습니다.
이전 프레임워크는 AI 출력에 집중했습니다. 이제 AI 시스템에 들어가는 것도 다룹니다. 변화는 중요합니다.
법무팀에게 영향은 직접적입니다. 같은 최소화 의무가 고객 파일에 사용된 AI 검토 도구에도 적용됩니다. 팀들은 도구에 도달하기 전에 민감한 데이터를 줄여야 합니다.
두 가지 의무가 이제 겹칩니다. 신뢰도 점수 기록은 분쟁에서 특권 주장을 뒷받침합니다. 입력 최소화는 AI 거버넌스 규칙을 충족합니다. 함께 이것들은 2025년 AI 지원 법률 업무의 컴플라이언스 기준을 정의합니다.
감사 로그가 캡처해야 하는 것
로그는 처리된 각 문서에 대해 여섯 가지를 기록해야 합니다.
첫째: 문서 식별자. 둘째: 엔티티 유형. 셋째: 신뢰도 점수. 넷째: 적용된 방법 — 레이블 또는 블랙박스. 다섯째: 사용 중인 구성 버전. 여섯째: 처리 날짜와 시간.
이 로그는 두 가지 목적을 제공합니다. 제출이 이의를 받을 때 특권 로그를 뒷받침합니다. 또한 민감한 데이터가 법무법인을 떠나기 전에 최소화됐음을 규제 기관에 보여줍니다.