Математика ежедневного раскрытия персональных данных
Исследование Cyberhaven показало, что корпоративные сотрудники в среднем 3,8 раза вставляют чувствительные данные в ChatGPT в день на пользователя. Для команды поддержки из 100 человек это 380 случаев попадания клиентских записей в ChatGPT ежедневно.
Каждый такой случай может быть нарушением принципа минимизации данных GDPR по статье 5(1)(c). Эта статья требует, чтобы персональные данные были «адекватными, релевантными и ограниченными тем, что необходимо».
Это не действия недобросовестных сотрудников, игнорирующих политику. Цифра 3,8 отражает обычную рабочую практику. Операторы копируют письма клиентов, чтобы составить ответы. Они вставляют текст жалобы, чтобы получить эмпатичные формулировки. Они указывают детали аккаунта, чтобы ответ учитывал контекст. Каждая вставка — это законный шаг для повышения производительности, который попутно несёт персональные данные.
Обучение поведению не решает проблему
Аудит ЕС 2024 года показал, что 63% пользовательских данных в ChatGPT содержали персональные идентифицирующие сведения. При этом лишь 22% пользователей знали, что могут отказаться от передачи данных через настройки инструмента. Большинство текстов, вставляемых в ИИ-помощника, содержат персональные данные. Большинство пользователей не осведомлены об имеющихся мерах контроля. Итог — массовое ежедневное раскрытие данных.
Обучение корпоративной политике наталкивается на фундаментальную проблему. Привычка копировать и вставлять текст насчитывает десятилетия. Пользователи делают это с первого рабочего дня. Появление ИИ-чата в качестве нового адресата для вставки добавляет новый пункт назначения, но не меняет привычку.
Политика «не вставляй персональные данные клиентов в ИИ-помощника» требует от оператора вставить дополнительный шаг классификации — «содержит ли этот текст персональные данные?» — в автоматическое действие, лишённое естественной паузы. Эффект обучения со временем угасает. Накопленный результат 380 ежедневных решений о вставке — это комплаенс-риск, который политика в одиночку удержать не способна.
Где технические меры работают
Решение действует непосредственно в момент вставки. Браузерное расширение перехватывает содержимое буфера обмена в тот момент, когда оператор нажимает «вставить», — до того как текст попадает в поле ввода. Оператор видит модальное окно предварительного просмотра. В нём показано, что обнаружено и что будет анонимизировано перед отправкой.
Это не блокирующий контроль. Оператор может продолжить, отменить или остановиться. Это шаг обеспечения прозрачности. Он добавляет один момент осознанности к в остальном автоматическому действию.
Представьте руководителя немецкой команды поддержки интернет-магазина, который составляет ответы на жалобы клиентов. Рабочий процесс остаётся прежним: скопировать жалобу, вставить в ChatGPT, получить ответ. Расширение добавляет двухсекундную проверку. Оператор видит, что обнаружены имена, адреса и номера заказов. Нажимает «продолжить». Инструмент получает анонимизированную версию. Нарушение комплаенса не происходит.
Наше руководство по соответствию GDPR описывает правовое основание для этих мер контроля. Смотрите также сравнение политики ИИ и технических средств контроля и руководство по браузерному DLP для ChatGPT для получения деталей внедрения.