Възпроизводима поверителност: Защо ML екипите се нуждаят от настройки, не само от документи
ДлъЖностното лице по защита на данните одобри плана за анонимизиране. Покрива четири елемента: имена, имейли, телефонни номера и дати на раждане. Методът е Заместване. Планът е четири страници и се намира в уикито за съответствие.
Дванадесет учени по данни го прочетоха при встъпването. Всеки от тях настройва инструмента сам. Някои добавят национални идентификатори. Някои добавят IP адреси. Някои превключват към Заличаване. Три месеца по-късно, наборите не са последователни.
CNIL провери няколко AI фирми през 2024 г. Проблемът: неправилно използване на лични данни в обучителни набори на модели. Те не питаха само дали е извършено анонимизиране. Питаха колко последователно е приложено.
Документите са необходими. Те не са достатъчни. Решението е настройката.
Защо ML обучителните набори се нуждаят от собствена конфигурация
Изграждането на обучителни набори има уникални нужди. Общото анонимизиране на документи не ги споделя.
Заместване, не Заличаване. Моделите, обучени на текст, в който имената стават [REDACTED], научават този токен като маркер за позиция на имена. Това вреди на модела. Заместването сменя "Иван Иванов" с "Петър Стоянов". Моделът вижда реални шаблони на имена. Не вижда маскиращ токен.
Същият процес за всички записи. Набор, в който 70% от имената са заменени и 30% са [REDACTED], изпраща смесен сигнал. Всеки запис трябва да премине през същите стъпки.
Един и същ списък с обекти. Ако наборът съдържа здравни данни, премахването на имена, но оставянето на дати на раждане в някои записи създава пропуски. Всичките дванадесет учени по данни трябва да премахват едни и същи типове.
Без излишно премахване. Премахването на дати, които са времеви маркери - не дати на раждане - намалява качеството на набора без ползи за съответствието. Одобрената настройка казва точно кои елементи да се премахнат.
Повторяем резултат. Ако набор трябва да бъде изпълнен отново - да речем, след намиране на пропуснат тип обект - настройката дава един и същ резултат всеки път. Настройките по желание не правят това.
Проблемът с дванадесетте учени по данни
ML екип на финтех компания в Европа използва набори от клиентски дневници. Длъжностното лице по защита на данните одобри целта - засичане на измами - с едно правило: всички имена на клиенти, имейли, телефонни номера и идентификатори за плащане трябва да бъдат заменени преди началото на работата с модела.
Без настройки:
- Лице 1 премахва имена, имейли и телефонни номера - но пропуска идентификаторите за плащане
- Лице 2 включва идентификаторите за плащане, но използва Заличаване, а не Заместване
- Лице 3 следва точно документа с плана
- Лица 4-12 варират
Обединеният набор е частично несъвместим и частично свръхобработен. Длъжностното лице по защита на данните не може да го сертифицира.
С одобрена от длъжностното лице по защита на данните настройка:
- Длъжностното лице по защита на данните създава "ML разработка - Засичане на измами" с точни типове обекти и метода Заместване
- Настройката отива при всичките дванадесет лица с едно правило: използвайте това за цялата работа с набора
- Никой не може да промени настройката без одобрение на длъжностното лице по защита на данните
Всяко лице сега произвежда един и същ резултат. Обединеният набор е последователен. Годишният AI одит минава без находки. Предходната година е имала три находки от непоследователна работа с набори.
GDPR и AI Закона
Актуализирано за 2026 г.
EU AI Законът влезе в пълна сила през август 2024 г. Той добавя правила за AI системи, които използват лични данни за работа с обучителни набори. Системите с висок риск трябва да документират своите набори, включително какво анонимизиране е приложено.
Член 5(1)(б) от GDPR - правилото за ограничение на целта - блокира използването на лични данни без ясна правна основа. Случаите на CNIL от 2024 г. се фокусираха върху тази пропаст: данни, събрани за една услуга, използвани за работа с обучителни набори без валидна основа или анонимизиране.
Настройките помагат за удовлетворяване на двата набора от правила:
- Naziv на настройката и конфигурация: документираният метод
- Дневници за обработка: доказателство, че методът е приложен
- Одобрение на длъжностното лице по защита на данните: записано потвърждение на конфигурацията
Това създава одитната пътека, изисквана от двата закона. За задълженията по член 10 в детайли, вижте ръководството за обучителни данни на EU AI Закона.
Конфигурация на настройките за NLP обучителни набори
Типове за включване в повечето NLP обучителни набори:
- PERSON - Замени с подобни имена
- EMAIL_ADDRESS - Замени със синтетични адреси
- PHONE_NUMBER - Замени със синтетични номера
- CREDIT_CARD / IBAN - Замени или Заличи
- LOCATION - Замени с подобни места ако местоположението има значение; Заличи ако не
- DATE_OF_BIRTH - Заличи; групирането по възраст е често необходимо
Типове, често оставяни навън:
- Общи дати - времевите маркери помагат на темпоралните модели
- Имена на организации - помагат на моделите за разпознаване на именувани обекти
- URL - помагат на моделите за връзки и препратки
МL ръководителят и длъжностното лице по защита на данните задават тези правила в одобрената настройка. Членовете на екипа я прилагат. Те не взимат решения за конфигурация.
Настройките като институционална памет
Преди настройките. Правилната конфигурация на обектите живееше в главите на трима учени по данни. Те бяха преработили прегледа на съответствието. Двама напуснаха в третото тримесечие. Знанието отиде с тях.
След настройките. Конфигурацията живее в "ML разработка - Клиентски записи v2.1". Дневникът на версиите показва кога е направена, кой я е одобрил и какво се е променило от v2.0. Новите членове на екипа използват настройката и получават цялото знание, вградено в нея.
Версия 2.1 добави засичане на IBAN след преглед, при който беше намерена пропуск. Версия 2.0 беше одобрена през февруари 2025 г. Дневникът е пълен.
За начина, по който работят дневниците за обработка и потоците за преглед от длъжностното лице по защита на данните, вижте ръководството за анонимизиране на ML обучителни данни по GDPR.
Настройки срещу шаблона на CNIL
Случаите на CNIL с AI от 2024 г. установяват ясен шаблон. Те питат не само какво е премахнато, но и как е управлявано. Споделена настройка с запис за одобрение от длъжностното лице по защита на данните и дневници за обработка отговаря на това директно.
Ад хок конфигурация не отговаря. Същата пропаст съществува в други случаи на EU ОЗД, следващи логиката на CNIL. За повече относно подхода на CNIL към AI, вижте ръководството за GDPR AI съответствие на CNIL.
Заключение
Документите казват на членовете на екипа какво да правят. Настройките правят лесно - и задължително - да го правят по един и същи начин всеки път.
За ML обучителни набори, последователността е едновременно правно и техническо изискване. Настройката отговаря и на двете наведнъж.
ОЗД, разглеждащи AI практики, искат доказателства за еднакво анонимизиране. Настройка, приложена по един и същи начин в цялата работа с обучителния набор, е най-ясното доказателство, което можете да им дадете.