anonym.legal

By · Last updated 2026-02-24

Назад до блогуОхорона здоров'я

Виявлення PHI: Snow Labs 96% проти GPT-4o

Не всі інструменти деідентифікації однаково ефективні. Бенчмарки ECIR 2025 показують F1-показники від 79% до 96%. Дізнайтеся, чому точність важлива та як оцінювати інструменти.

February 24, 20267 хв читання
PHI detectionde-identificationNER accuracyHIPAAbenchmarks

Оновлено для 2026 року

Не всі інструменти деідентифікації однаково ефективні

Точність — єдиний показник, що має значення для деідентифікації PHI. Різниця в 4% виглядає незначною. На мільйоні записів це 40 000 пацієнтів під загрозою розкриття.

Бенчмарки ECIR 2025 показують значний розрив у точності між провідними інструментами. Ці результати мають визначати кожне рішення про закупівлю в охороні здоров'я.

Результати бенчмарку ECIR 2025

<!-- VERIFIED-EXTERNAL: John Snow Labs ECIR 2025 Text2Story Workshop paper -->
ІнструментF1-показникТочністьПовнота
John Snow Labs96%95%97%
Azure AI91%90%92%
AWS Comprehend Medical83%81%85%
GPT-4o79%82%76%

F1-показник поєднує дві речі. Точність: скільки позначених елементів були справжнім PHI. Повнота: скільки справжніх PHI-елементів було знайдено.

  • Низька точність означає надмірну анонімізацію та втрату контексту.
  • Низька повнота означає пропущений PHI — витік даних.

Чому існує цей розрив

Навчальні дані мають значення

John Snow Labs навчається на клінічних нотатках. Ці нотатки містять багато скорочень і складні формати. GPT-4o навчається на широкому наборі текстів. Його не створювали для клінічних даних.

ІнструментФокус навчання
John Snow LabsСпецифіка охорони здоров'я, клінічні нотатки
Azure AIЗагальна медицина + клінічні дані
AWS Comprehend MedicalЗагальні медичні сутності
GPT-4oШироке навчання, без спеціалізації на охороні здоров'я

Охоплення типів сутностей відрізняється

Не кожен інструмент знаходить однакові типи PHI.

СутністьJohn SnowAzureAWSGPT-4o
Імена пацієнтівТакТакТакТак
Номери медичних записівТакТакОбмеженоОбмежено
Дозування ліківТакТакТакЧастково
Коди процедурТакТакОбмеженоНі
Клінічні скороченняТакЧастковоНіЧастково
Імена членів родиниТакТакЧастковоЧастково

Контекст важко правильно інтерпретувати

Розглянемо цю клінічну нотатку:

«Пацієнт повідомляє, що приймає ліки Smith's. Доктор Johnson рекомендує збільшити дозу.»

Хороший інструмент PHI повинен зробити три речі:

  1. Прочитати «Smith» як назву бренду, а не ім'я пацієнта.
  2. Позначити «Доктор Johnson» як ім'я лікаря для анонімізації.
  3. Знати, що «Пацієнт» — це позначення ролі, а не ім'я.

GPT-4o пропускає ці випадки. Це знижує повноту до 76%.

Вартість низької точності

Перехід від 79% до 96% скорочує розкриття на 170 000 записів на мільйон оброблених.

<!-- VERIFIED: arithmetic derived from ECIR 2025 benchmark figures -->
ТочністьЗаписиРозкриття PHI
96%1 000 00040 000
91%1 000 00090 000
83%1 000 000170 000
79%1 000 000210 000

Штрафи HIPAA зростають пропорційно розкриттю

<!-- VERIFIED-EXTERNAL: HIPAA Journal penalty tiers / 45 CFR 160.404 -->
РівеньПричинаШтраф за порушення
1Незнання$100–$50 000
2Обґрунтована причина$1 000–$50 000
3Умисна недбалість, виправлена$10 000–$50 000
4Умисна недбалість, не виправлена$50 000+

Вибір інструменту з 79% точністю, коли існують інструменти з 96%, може кваліфікуватися як умисна недбалість за правилами HHS. Розрив відомий. Кращий інструмент існує на ринку.

Як гібридний конвеєр підвищує точність

Жоден окремий метод не знаходить всі типи PHI. Гібридний конвеєр поєднує методи. Кожен заповнює прогалини, які залишають інші.

Вхідний текст
    ↓
[Regex-шаблони] — Структуровані дані: SSN, MRN, дати
    ↓
[spaCy NER] — Імена, місця, організації
    ↓
[Трансформерні моделі] — Сутності, залежні від контексту
    ↓
[Медичні словники] — Специфічні медичні терміни
    ↓
Об'єднані результати (перемагає найвищий рівень довіри)
МетодСильні сторониСлабкі сторони
RegexІдеальний для структурованих данихНемає обробки контексту
spaCyШвидкий, поширені сутностіОбмежений медичний словник
ТрансформериКонтекстно-залежний, висока повнотаПовільніший
СловникиПовні медичні терміниСтатичний, потребує оновлень

Кожен метод знаходить те, що пропускають інші. Дивіться, як це працює, на сторінці відповідності безпеки та в документах правової відповідності.

Питання до будь-якого постачальника

Перед підписанням договору задайте п'ять питань:

  1. Який F1-показник на клінічних нотатках? Отримайте дані від третьої сторони. Відхиляйте розпливчасті твердження.
  2. Які типи сутностей? Мають бути охоплені всі 18 ідентифікаторів HIPAA Safe Harbor.
  3. Як ви обробляєте скорочення? «Пц,» «Дгз,» та «Анм» потребують правильного розпізнавання.
  4. Чи виявляєте PHI членів родини? «Мати хворіє на діабет» — це PHI. Багато інструментів це пропускають.
  5. Чи підтримуєте всі формати нотаток? Нотатки про прогрес, виписки та рентгенологічні звіти суттєво різняться.

Тривожні ознаки:

  • Відсутність конкретних показників точності
  • Тестування лише на чистих, структурованих даних
  • Відсутність навчальних даних з охорони здоров'я
  • Мала кількість типів сутностей
  • Відсутність валідації HIPAA Safe Harbor

Самостійне тестування інструментів

Проведіть власний тест у чотири кроки.

Крок 1 — Сформуйте набір даних. Використовуйте деідентифіковані нотатки з різних спеціальностей. Охопіть всі 18 типів HIPAA та граничні випадки, як-от скорочення та імена членів родини.

Крок 2 — Встановіть золотий стандарт. Експерти позначають кожен елемент PHI з типом та точним діапазоном.

Крок 3 — Запустіть кожен інструмент. Порівняйте результати з золотим стандартом. Оцініть точність, повноту та F1.

Крок 4 — Проаналізуйте помилки. Згрупуйте пропуски за типом, контекстом та форматом. Це показує, де кожен інструмент дає збій.

Висновок

Дані ECIR 2025 однозначні. Розрив у 17 балів — 96% проти 79% — означає 170 000 додаткових розкритих записів на мільйон. Вибір інструменту є найбільшою змінною ризику у масштабі.

Обираючи інструмент виявлення PHI:

  • Вимагайте конкретні дані точності на клінічному тексті
  • Підтвердьте повне охоплення HIPAA Safe Harbor
  • Тестуйте на власних форматах документів
  • Обирайте гібридні конвеєри замість однометодних інструментів

Прочитайте, як працює токенізація, в документах токен-системи. Поширені запитання — у FAQ.


anonym.legal замінює PHI токенами перед тим, як документи потраплять до будь-якого інструменту ШІ. Імена, дати та номери записів замінюються на вашій стороні. Результати повертаються з відновленими реальними даними — тільки для вас. Перегляньте тарифи.

Джерела

Готові захистити свої дані?

Почніть анонімізувати PII з 285+ типами сутностей на 48 мовах.

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.