Когда политика сталкивается с реальным поведением
Государственный подрядчик был под давлением. Он имел накопившийся объём заявок на получение помощи от FEMA при наводнениях. Чтобы работать быстрее, он вставил имена, адреса и медицинские записи в ChatGPT. В его сознании он не нарушал никаких законов — просто использовал лучший инструмент под рукой.
Результат: правительственное расследование и публичное разглашение.
Это квинтэссенция провала управления ИИ только через политику. Политика говорит сотрудникам, что делать. Она не останавливает поведение.
77% сотрудников предприятий передают чувствительные рабочие данные инструментам ИИ как минимум еженедельно — даже когда политика это запрещает (eSecurity Planet/Cyberhaven, 2025). Это не безответственные работники. Это люди под давлением сроков, выбирающие самый быстрый инструмент.
Почему политика даёт сбой
Политики использования ИИ полагаются на суждение человека в момент ввода данных. Этот момент быстр. Сотрудник может не вспомнить политику. Он может не считать содержимое «чувствительным». Он может принять риск, потому что экономия времени кажется значительной.
Анализ Cyberhaven Q4 2025 показал: 34,8% всех вводимых данных в ChatGPT содержат конфиденциальную бизнес-информацию. Многие из этих пользователей знали о политике. Они всё равно вставляли данные.
Политики доступа работают, потому что их применяют системы. DLP на уровне электронной почты работает, потому что его применяют системы. Политики использования ИИ не имеют принудительного применения в точке вставки. Человеческое решение заполняет этот пробел. В масштабе люди делают ошибки.
Подрядчик FEMA совершил одну из таких ошибок. Он не был злоумышленником. Инструмент победил, потому что политика требовала от него выбора в пользу медлительности над скоростью. Под давлением он выбрал скорость.
Технические средства контроля останавливают то, что не может политика
Единственное решение, работающее в масштабе, действует на техническом уровне, а не на уровне обучения.
Расширение браузера может перехватывать содержимое буфера обмена до того, как оно достигает любого веб-ИИ. Когда подрядчик копирует имена и адреса заявителей и вставляет их в ChatGPT, расширение обнаруживает PII, анонимизирует его и отправляет очищенную версию. ChatGPT видит [ИМЯ_1] и [АДРЕС_1] вместо реальных значений. Он всё равно выполняет задачу. Личные данные заявителя никогда не достигают серверов ChatGPT.
Это происходит автоматически. Пользователю не нужно ничего помнить.
Что меняется с техническим контролем
При наличии расширения браузера сценарий с подрядчиком FEMA разворачивается иначе: подрядчик копирует записи заявителей → расширение обнаруживает PII в буфере обмена → модальное окно предварительного просмотра показывает, что будет заменено → анонимизированная версия отправляется в ChatGPT → ChatGPT обрабатывает запрос и возвращает результаты → подрядчик получает нужную помощь, расследование не инициируется.
Политику не нужно было менять. Обучение не нужно было проводить. С этим справился уровень перехвата.
Обучение политике снижает риск на уровне поведения. Технические средства контроля устраняют сам механизм сбоя. Инцидент с FEMA был провалом политики. Одно расширение Chrome, развёрнутое на устройстве подрядчика, превратило бы его в нечто несущественное.