Двойната отговорност за неправилна редакция
Правните екипи се сблъскват с два различни режима на грешка при редактиране и двата създават отговорност.
Недостатъчно редактирано излага на показ привилегировано съдържание, поверителна бизнес информация или лични данни, които е трябвало да бъдат задържани. Продуцентът е разкрил материал, който е имал правото – а в някои случаи и задължението – да защити.
Прекомерното редактиране задържа отзивчива информация, която противниковият адвокат има право да получи. Продуцентът е попречил на процеса на откриване, потенциално криейки доказателства зад нелегитимни претенции за привилегии. Съдилищата третират свръхредактирането като нарушение на откритието, което подлежи на санкции.
Подпомогнати от изкуствен интелект инструменти за редактиране, които дават приоритет на извикването пред прецизността - максимално маркиране на потенциално чувствително съдържание - систематично произвеждат втория режим на повреда. Когато машина за редактиране на AI редактира 80% от съдържанието на документ, за да гарантира, че не пропуска нищо привилегировано, получената продукция е функционално безполезна и потенциално подлежи на санкции.
Athletics Investment Group срещу Schnitzer Steel (2024)
Случаят от 2024 г. на Athletics Investment Group срещу Schnitzer Steel илюстрира съдебния отговор на неправилното редактиране в електронното откриване.
Случаят включваше търговски спор, в който изготвеният от едната страна документ включваше редакции, които противният адвокат оспори като неоснователни. Съдът разгледа редактираните материали и установи, че редакциите надхвърлят това, което законът за привилегиите или доктрините за поверителност позволяват.
Последствието: санкции за откриване. Съдът наложи санкции на продуциращата страна за неправилните редакции - средство за защита, налично съгласно Правило за гражданска процедура 37 за нарушения при откриване. Продуцентската страна понесе тежестта на използването на неадекватен процес на редактиране.
Случаят е важен не защото санкциите за прекомерно редактиране са нови - съдилищата ги присъждат от години - а защото се случи в съдебна среда, където инструментите за преглед, подпомагани от AI, вече са често срещани. Въпросът, който повдига случаят, е дали правните екипи са оценили прецизните характеристики на своите инструменти за редактиране на AI, преди да разчитат на тях за производство.
Проблемът с 22,7% точност
Presidio, машината за откриване на PII с отворен код, разработена от Microsoft и широко използвана в приложения на правни технологии, постига 22,7% степен на точност на правни документи при независим сравнителен анализ.
Прецизността измерва колко често положителните идентификации на инструмента са правилни. Степента на точност от 22,7% означава, че приблизително 77 от всеки 100 елемента, маркирани от инструмента като чувствителни, всъщност не отговарят на прага на чувствителност, за който са били маркирани.
За приложение за електронно откриване това има преки оперативни последици. Производствен набор от 10 000 документа, обработени с инструмент, постигащ 22,7% прецизност, ще съдържа хиляди редакции, които нямат легитимни привилегии или основа за поверителност. Продуцентската страна, която разчита на този резултат, е изправена пред същата експозиция като страната в Athletics Investment Group: продукция, която противникът ще оспори, съд, който ще разгледа редактираното съдържание и санкции, ако редакциите не могат да бъдат оправдани.
Цифрата от 22,7% отразява готовата конфигурация на Presidio за легално съдържание. Той не представя всички инструменти за редактиране, подпомогнати от изкуствен интелект, но представя базовата производителност на най-често използвания двигател с отворен код в легалните технологични интеграции.
Проблемът с прецизността е структурен: базираните на NLP системи за разпознаване на обекти, обучени на общи текстови корпуси, се представят по различен начин на юридически език, който използва термини на изкуството, съкращения, конвенции за форматиране на документи и структури за цитиране, които се различават от данните за обучение. Инструмент, който постига приемлива прецизност на медицински досиета или финансови отчети, може да се представи значително по-лошо на преписи за депозиране, кореспонденция и договорни документи.
Какво разкрива анализът на съдържанието на AI Chatbot
Контекстът за приемане на AI инструмента в правната практика се установява от данни за употребата: 27,4% от съдържанието на AI chatbot е чувствително, според независим анализ на корпоративните модели на използване на AI инструмента.
Тази фигура описва какво подлагат служителите на AI инструментите, когато ги използват за работни задачи - не данни, които те умишлено споделят, но случайно включват чувствително съдържание. За правни специалисти, използващи AI инструменти за изготвяне на кореспонденция, обобщаване на показания, анализиране на договори или проучване на съдебната практика, чувствителното съдържание навлиза в AI платформите като страничен продукт от нормалната работа.
Цифрата от 27,4% установява, че почти три от всеки десет взаимодействия с AI инструменти в законна среда включват чувствително съдържание – клиентска информация, привилегировани комуникации, поверителна стратегия за случаи или данни на противниковата страна. Това съдържание достига до инфраструктурата на доставчика на AI в използваема форма, освен ако техническият контрол не го прихване първо.
За адвокатските кантори, които оценяват своята позиция на сигурност с ИИ, 27,4% не е пределен риск. Това е основното предположение: почти една трета от използването на AI инструмент в законна среда ще включва съдържание, което изисква защита.
Каскадната верига за отговорност
Прекомерното редактиране и излагането на данни на инструмента за изкуствен интелект създават различни, но свързани вериги за отговорност за правните екипи.
Верига на отговорност за прекомерно редактиране: AI инструментът маркира максимално документите → адвокатът преглежда изхода, без да проверява всяка редакция поотделно → продукцията е представена с неоправдани редакции → оспорванията на противния адвокат → съдът разглежда → санкции.
Верига за отговорност за излагане на AI: Адвокатът използва AI инструмент, за да помогне при работата по казуси → AI инструментът получава привилегировани клиентски комуникации, поверителни стратегии или чувствителни данни за случаи → Инфраструктурата на доставчика на AI е нарушена → клиентските данни са изложени → привилегията между адвокат и клиент е потенциално замесена → излагане на злоупотреба.
И двете вериги започват в една и съща точка: правни екипи внедряват инструменти за ИИ, без да разбират техническите характеристики на тези инструменти или да прилагат контрол, подходящ за правна работа.
Прецизно-Първа редакция за легални продукции
Съдебният стандарт за редактиране не е оптимизиран за припомняне. Съдилищата, които оценяват оспорваните редакции, питат дали всяка конкретна редакция е била оправдана от привилегия, доктрина за поверителност или приложима защитна заповед — а не дали инструментът на продуциращата страна е маркирал колкото е възможно повече, за да бъде безопасен.
Редакция, която не може да бъде оправдана, е нарушение на откриването, независимо дали е направено от рецензент човек или инструмент с изкуствен интелект. Разследването на съда е конкретно за документи, а не на системно ниво.
За правните екипи оперативното значение е, че инструментите за редактиране трябва да бъдат оценени по прецизност - процентът на маркирани елементи, които са законно привилегировани или поверителни - не просто припомняне. Инструмент, който постига 90% припомняне с 22,7% прецизност, може да улови по-чувствително съдържание, но налага тежест за ръчен преглед за 77,3% от фалшивите положителни резултати и създава систематичен риск от свръхредактиране, когато този преглед не се извърши.
Правната среда изисква прецизност на ниво документ. Всяка редакция в продукцията представлява имплицитно твърдение пред съда, че редактираното съдържание е законно задържано. Стандартът след Athletics Investment Group е ясен: това твърдение трябва да е точно.
Източници:
- [Athletics Investment Group, LLC срещу Schnitzer Steel Industries, Inc., № 3:21-cv-05246 (N.D. Cal.) — CourtListener] (https://www.courtlistener.com/docket/60043408/athletics-investment-group-llc-v-schnitzer-steel-industries-inc/)
- [E-Discovery LLC: Редакциите за уместност са забранени — отново (анализ на случая)] (https://www.ediscoveryllc.com/relevance-redactions-prohibited-again/)
- [Правило 37 на Федералните правила за гражданска процедура: Липса на оповестяване] (https://www.law.cornell.edu/rules/frcp/rule_37)