anonym.legal

By · Last updated 2026-02-24

Назад к блогуЗдравоохранение

Обнаружение PHI: John Snow Labs 96% против GPT-4o 79%

Не все инструменты деидентификации одинаковы. Бенчмарки ECIR 2025 показывают F1-оценки от 79% до 96%. Узнайте, почему точность важна и как оценивать инструменты.

February 24, 20267 мин чтения
PHI detectionde-identificationNER accuracyHIPAAbenchmarks

Обновлено в 2026 году

Не все инструменты деидентификации одинаковы

Точность — единственная метрика, важная для деидентификации PHI. Разрыв в 4% кажется небольшим. На одном миллионе записей это 40 000 раскрытых пациентов.

Бенчмарки ECIR 2025 демонстрируют значительные разрывы в точности между ведущими инструментами. Эти результаты должны лежать в основе каждого решения о закупке в здравоохранении.

Результаты бенчмарка ECIR 2025

ИнструментF1-оценкаТочностьПолнота
John Snow Labs96%95%97%
Azure AI91%90%92%
AWS Comprehend Medical83%81%85%
GPT-4o79%82%76%

F1-оценка объединяет два показателя. Точность (precision): какая доля обнаруженных элементов является реальными PHI. Полнота (recall): какая доля реальных PHI была обнаружена.

  • Низкая точность означает избыточное редактирование и потерю контекста.
  • Низкая полнота означает пропущенные PHI — то есть утечку данных.

Почему существует разрыв

Значение обучающих данных

John Snow Labs обучается на клинических заметках. Они неструктурированы и содержат множество сокращений. GPT-4o обучается на широком наборе текстов. Он не предназначался для клинических данных.

ИнструментФокус обучения
John Snow LabsСпециализируется на здравоохранении, клинические заметки
Azure AIОбщемедицинские + клинические данные
AWS Comprehend MedicalОбщемедицинские сущности
GPT-4oШирокое обучение, не специализированное для здравоохранения

Охват типов сущностей

Не каждый инструмент обнаруживает одни и те же типы PHI.

СущностьJohn SnowAzureAWSGPT-4o
Имена пациентовДаДаДаДа
Номера медкартДаДаЧастичноЧастично
Дозы препаратовДаДаДаЧастично
Коды процедурДаДаЧастичноНет
Клинические сокращенияДаЧастичноНетЧастично
Имена членов семьиДаДаЧастичноЧастично

Контекст сложно понять правильно

Рассмотрим клиническую заметку:

«Пациент сообщает о приёме лекарства Смита. Доктор Джонсон рекомендует увеличить дозу.»

Хороший инструмент обнаружения PHI должен сделать три вещи:

  1. Прочитать «Смит» как название бренда, а не имя пациента.
  2. Пометить «Доктор Джонсон» как имя поставщика медицинских услуг для редактирования.
  3. Знать, что «Пациент» — это обозначение роли, а не имя.

GPT-4o упускает эти случаи. Отсюда полнота на уровне 76%.

Стоимость низкой точности

Переход с 79% до 96% снижает утечки на 170 000 записей на миллион обработанных.

ТочностьЗаписейУтечка PHI
96%1 000 00040 000
91%1 000 00090 000
83%1 000 000170 000
79%1 000 000210 000

Штрафы HIPAA масштабируются с объёмом утечки

УровеньОснованиеШтраф за нарушение
1Незнание$100–$50 000
2Обоснованная причина$1 000–$50 000
3Умышленное пренебрежение, исправленное$10 000–$50 000
4Умышленное пренебрежение, неисправленное$50 000+

Выбор инструмента с точностью 79% при наличии инструментов с точностью 96% может квалифицироваться как умышленное пренебрежение по правилам HHS. Разрыв известен. Лучший инструмент существует.

Как гибридный конвейер повышает точность

Ни один метод не обнаруживает все типы PHI. Гибридный конвейер объединяет методы. Каждый заполняет пробелы остальных.

Входной текст
    ↓
[Regex-шаблоны] — структурированные данные: SSN, MRN, даты
    ↓
[spaCy NER] — имена, локации, организации
    ↓
[Трансформерные модели] — контекстно-зависимые сущности
    ↓
[Медицинские словари] — специализированные медицинские термины
    ↓
Объединённые результаты (побеждает наибольшая уверенность)
МетодСильные стороныСлабые стороны
RegexИдеально для структурированных данныхНет контекстной обработки
spaCyБыстро, распространённые сущностиОграниченный медицинский словарь
ТрансформерыКонтекстно-зависимые, высокая полнотаМедленнее
СловариПолные медицинские терминыСтатичны, требуют обновлений

Каждый метод обнаруживает то, что упускают другие. Подробнее — на странице соответствия требованиям безопасности и в документации по правовому соответствию.

Вопросы для любого поставщика

Перед подписанием контракта задайте пять вопросов:

  1. Какая F1-оценка на клинических заметках? Требуйте данные от третьих сторон. Отвергайте размытые заявления.
  2. Какие типы сущностей охвачены? Все 18 идентификаторов Safe Harbor по HIPAA должны быть включены.
  3. Как обрабатываются сокращения? «Пц», «Дз» и «ИА» требуют правильной интерпретации.
  4. Обнаруживаете ли PHI членов семьи? «У матери диабет» — это PHI. Многие инструменты упускают это.
  5. Поддерживаете ли все форматы заметок? Заметки о динамике состояния, выписные эпикризы и радиологические отчёты существенно различаются.

Тревожные признаки:

  • Отсутствие конкретных показателей точности
  • Тестирование только на чистых, структурированных данных
  • Отсутствие медицинских обучающих данных
  • Мало типов сущностей
  • Нет валидации Safe Harbor по HIPAA

Самостоятельное тестирование инструментов

Проведите собственное тестирование в четыре шага.

Шаг 1 — Создайте набор данных. Используйте деидентифицированные заметки из разных специальностей. Охватите все 18 типов HIPAA плюс крайние случаи: сокращения и имена членов семьи.

Шаг 2 — Установите золотой стандарт. Эксперты маркируют каждый элемент PHI с типом и точным диапазоном.

Шаг 3 — Запустите каждый инструмент. Сравните результаты с золотым стандартом. Оцените точность, полноту и F1.

Шаг 4 — Разберите ошибки. Сгруппируйте пропуски по типу, контексту и формату. Это покажет, где именно каждый инструмент даёт сбой.

Заключение

Данные ECIR 2025 однозначны. Разрыв в 17 пунктов — 96% против 79% — означает 170 000 дополнительных уязвимых записей на миллион. Выбор инструмента — это главная переменная риска в масштабе.

При выборе инструмента обнаружения PHI:

  • Требуйте конкретные данные о точности на клинических текстах
  • Подтверждайте полное покрытие Safe Harbor по HIPAA
  • Тестируйте на собственных форматах документов
  • Выбирайте гибридные конвейеры, а не однометодные инструменты

Подробнее о работе токенизации — в документации по токен-системе. Ответы на распространённые вопросы — в FAQ.


anonym.legal заменяет PHI токенами до того, как документы достигают любого ИИ-инструмента. Имена, даты и номера записей заменяются на вашей стороне. Результаты возвращаются с восстановленными реальными данными — только для вас. Изучите цены.

Источники

Готовы защитить ваши данные?

Начните анонимизацию PII с 285+ типов сущностей на 48 языках.

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.