Проблема вирішення одного ризику відповідності шляхом створення іншого
Організації, що усвідомили ризик витоку даних через ШІ-інструменти, часто впроваджують логічне рішення: анонімізувати конфіденційний вміст перед тим, як він потрапить до ШІ-постачальників, використовуючи постійну або односпрямовану анонімізацію, яку не можна відновити.
Логіка є обґрунтованою з боку безпеки. Аналіз Cyberhaven за 4 кв. 2025 р. встановив, що 34,8% вмісту, надісланого до ChatGPT, містить конфіденційну інформацію. Дослідження Ponemon Institute 2024 р. показало, що середня вартість витоку даних через ШІ становить $2,1 млн. Дослідження eSecurity Planet та Cyberhaven виявили, що 77% співробітників щотижня діляться конфіденційними даними з ШІ-інструментами. Ризик реальний, частий і дорогий.
Але постійна анонімізація — незворотне односпрямоване хешування, деструктивне редагування або псевдонімізація без збереження ключа — вирішує проблему безпеки ШІ, створюючи при цьому іншу: знищення доказів.
Для організацій, що підпадають під судові розгляди, регуляторні розслідування або зобов'язання щодо e-discovery, постійне знищення можливості відновити вихідні дані з їх анонімізованого представлення може становити знищення доказів за федеральними та державними правилами e-discovery. Документ, що був постійно анонімізований і з якого не можна відновити вихідну інформацію, може вважатися знищеним доказом.
Масштаб обміну даними, що робить це нагальним
77% щотижневого обміну даними відображає масштаб проблеми. Співробітники в різних галузях — правничій, охороні здоров'я, фінансових послугах, технологіях — надсилають пов'язаний із роботою вміст до ШІ-інструментів як звичайну частину свого робочого процесу.
Цей вміст охоплює:
- Листування з клієнтами та кореспонденцію
- Проекти контрактів і узгоджені умови
- Внутрішні стратегічні обговорення та документи бізнес-планування
- Фінансові прогнози та модельні дані
- Юридичні дослідницькі меморандуми та нотатки щодо стратегії у справі
- Інформацію про пацієнтів і клінічну документацію
- Записи про співробітників і HR-комунікації
Коли організація впроваджує постійну анонімізацію як засіб контролю безпеки ШІ, кожен документ, що проходить через цей засіб контролю в процесі звичайної роботи, може бути змінено в спосіб, що руйнує його доказову цінність. Якщо будь-який із цих документів пізніше стане предметом судового розгляду — що для організацій у регульованих галузях, що діють у великому масштабі, є майже неминучим протягом кількох років — організація потенційно сформувала знищені докази.
Вимога GDPR щодо зворотності
Регуляторна база Європейського Союзу щодо захисту даних прямо розглядає питання зворотності в контексті псевдонімізації.
Стаття 4(5) GDPR визначає псевдонімізацію як «обробку персональних даних таким чином, що персональні дані більше не можуть бути приписані конкретному суб'єкту даних без використання додаткової інформації, за умови, що така додаткова інформація зберігається окремо та підлягає технічним і організаційним заходам для забезпечення того, щоб персональні дані не були приписані ідентифікованій або ідентифікованій фізичній особі».
Визначення вимагає, щоб «додаткова інформація» — ключ, що дозволяє повторну атрибуцію — зберігалася. Псевдонімізовані дані за GDPR — це дані, які можна повторно ідентифікувати, використовуючи ключі, що зберігаються окремо. Дані, які не можна повторно ідентифікувати, не є псевдонімізованими за GDPR — вони анонімізовані, і це розрізнення GDPR має значення для цілей відповідності вимогам.
Настанови EDPB 05/2022 щодо використання псевдонімізації підтверджують, що зворотність є обов'язковою вимогою псевдонімізації за Регламентом. Організації, що впроваджують постійну односпрямовану анонімізацію, не впроваджують псевдонімізацію у розумінні GDPR — вони впроваджують анонімізацію. Наслідки для відповідності вимогам відрізняються: псевдонімізовані дані зберігають певні зобов'язання за GDPR, тоді як справді анонімізовані дані можуть виходити за межі сфери застосування GDPR, але оперативне розрізнення однаково суттєве — псевдонімізовані дані можна відновити для законних цілей, включаючи e-discovery, тоді як постійно анонімізовані дані — ні.
Рамка щодо знищення доказів за Федеральними правилами
Згідно з Федеральними правилами цивільного судочинства, сторони судових процесів зобов'язані зберігати документи та електронно збережену інформацію, що може бути релевантною для передбачуваних або фактичних судових розглядів. Цей обов'язок виникає, коли судовий розгляд обґрунтовано передбачається, а не коли він ініційований.
Правило 37(e) надає судам повноваження накладати санкції, коли сторона не зберегла електронно збережену інформацію, яку мала зберегти, і ця невдача призводить до шкоди іншій стороні. Санкції можуть включати:
- Презумптивні вказівки про несприятливий висновок (журі інструктується вважати, що знищені докази були б несприятливими для сторони, що знищила їх)
- Заборону доказів
- Санкції, що вирішують справу, у тяжких випадках
Аналіз знищення доказів у контексті постійної анонімізації виглядає так: якщо організація використовує ШІ-робочий процес, що постійно анонімізує документи в ході звичайної роботи, а ці документи пізніше стають релевантними для судового розгляду, організація змінила ці документи в спосіб, що унеможливлює відновлення їх вихідного вмісту. Якщо зміна відбулася після виникнення обов'язку зберігати докази — або якщо організація знала або мала знати, що тип документів, що анонімізуються, міг бути релевантним для обґрунтовано передбачуваного судового розгляду — організація стикається з ризиком знищення доказів.
Це не гіпотетично. Організації в галузях із постійним регуляторним контролем, повторним ризиком судових розглядів або договірними спорами перебувають у стані постійного обґрунтованого передбачення судового розгляду щодо широких категорій документів. Розгортання постійної анонімізації в документних робочих процесах без виключень для потенційно релевантних матеріалів є систематичним ризиком знищення доказів.
Технічне розрізнення: зворотна проти незворотної анонімізації
Технічне розрізнення між зворотною та незворотною анонімізацією є архітектурним, а не поступовим.
Незворотна анонімізація (хешування, постійна заміна, деструктивне редагування) трансформує дані в спосіб, що не може бути скасований. Хешування SHA-256 імені клієнта дає хеш фіксованої довжини, з якого ім'я не можна отримати. Постійне редагування замінює вміст у спосіб, що руйнує вихідний текст.
Зворотна псевдонімізація (підстановка токена зі збереженням ключа, шифрування AES-256-GCM) трансформує дані в спосіб, що може бути скасований за допомогою окремо збереженої інформації. Ім'я клієнта, замінене структурованим токеном, може бути повторно асоційоване з вихідним іменем за допомогою таблиці зіставлення. Вміст, зашифрований AES-256-GCM, може бути розшифрований за допомогою відповідного ключа. Вихідний вміст залишається відновлюваним.
Для цілей безпеки ШІ — запобігання потраплянню конфіденційних даних до ШІ-постачальників у придатному для використання вигляді — обидва підходи досягають однієї мети. ШІ-модель обробляє токени або псевдонімізований вміст і ніколи не бачить вихідних конфіденційних даних.
Для дотримання правових вимог — збереження можливості відновити вихідний вміст для e-discovery, регуляторного реагування або законних ділових цілей — лише зворотна псевдонімізація є сумісною. Незворотні підходи усувають можливість відновлення і створюють ризик знищення доказів, описаний вище.
Сумісна архітектура
Архітектура, що вирішує обидві проблеми — безпеки ШІ та відповідності e-discovery — використовує зворотну псевдонімізацію AES-256-GCM:
- Документи обробляються перед надсиланням до ШІ-інструментів
- Конфіденційні сутності — імена, номери рахунків, ідентифікатори, PHI, привілейований вміст — замінюються структурованими токенами
- Зіставлення токена з оригіналом зберігається окремо з засобами контролю доступу, що відповідають конфіденційності даних
- Обробка ШІ відбувається на токенізованій версії — ШІ-модель ніколи не отримує відновлювальний конфіденційний вміст
- Результати детокенізуються за допомогою збереженого зіставлення для законного ділового використання
- Зіставлення підлягає утриманню судових доказів, коли виникають зобов'язання щодо e-discovery
За цієї архітектури вихідний вміст ніколи не знищується. ШІ-постачальник ніколи не отримує його у придатному для використання вигляді. Зіставлення токенів зберігає можливість відновити вихідний вміст, коли це юридично необхідно. Ризик знищення доказів усунутий, оскільки жодних доказів не знищено — лише тимчасово псевдонімізовано у зворотній спосіб.
Вимога GDPR щодо псевдонімізації за Статтею 4(5) задоволена: додаткова інформація (зіставлення токенів) зберігається окремо з відповідними технічними та організаційними заходами. Вимога щодо збереження за Федеральними правилами задоволена: вихідний вміст може бути відновлений, коли діє утримання судових доказів.
Організації, що впроваджують засоби контролю безпеки ШІ, стикаються з бінарним вибором: постійно анонімізувати і створювати ризик e-discovery, або зворотньо псевдонімізувати і одночасно задовольняти вимоги безпеки та відповідності. Середня вартість витоку ШІ у $2,1 млн, що стимулює рішення щодо засобів контролю безпеки, слід зіставити з потенційними витратами санкцій за знищення доказів, які у справах зі значними грошовими ставками можуть досягати того ж або більшого порядку величини.
Джерела: