By · Last updated 2026-02-24

Tagasi BlogisseTervishoid

PHI tuvastamine: Snow Labs 96% vs GPT-4o

Kõik de-identifitseerimistööriistad pole võrdsed. ECIR 2025 testid näitavad F1-skoore vahemikus 79%–96%. Vaata, miks täpsus on oluline ja kuidas tööriistu hinnata.

February 24, 20267 min lugemist
PHI detectionde-identificationNER accuracyHIPAAbenchmarks

Uuendatud 2026. aastaks

Kõik de-identifitseerimistööriistad pole võrdsed

PHI de-identifitseerimisel on täpsus ainus mõõdik, mis loeb. 4% vahe tundub väike. Miljoni kirje puhul on see aga 40 000 avaldatud patsienti.

ECIR 2025 testid näitavad juhtivate tööriistade vahel suuri täpsuserinevusi. Need tulemused peaksid kujundama iga tervishoiusektori soetamisotsust.

ECIR 2025 testi tulemused

<!-- VERIFIED-EXTERNAL: John Snow Labs ECIR 2025 Text2Story Workshop paper -->
TööriistF1-skoorTäpsusLeidlikkus
John Snow Labs96%95%97%
Azure AI91%90%92%
AWS Comprehend Medical83%81%85%
GPT-4o79%82%76%

F1-skoor ühendab kaks asja. Täpsus: mitu märgistatud elementi oli tõeline PHI. Leidlikkus: mitu tõelist PHI elementi leiti.

  • Madal täpsus tähendab üleliigset redaktsiooni ja kadunud konteksti.
  • Madal leidlikkus tähendab vahele jäänud PHI-d — see on andmeleke.

Miks vahe on olemas

Treeningandmed on olulised

John Snow Labs treenib kliiniliste märkmete põhjal. Need märkmed on keerulised ja täis lühendeid. GPT-4o treenib laiapõhjalisel tekstisegul. See pole ehitatud kliiniliste andmete jaoks.

TööriistTreeningfookus
John Snow LabsTervishoiuspetsiifiline, klinilised märkmed
Azure AIÜldine meditsiiniline + kliiniline
AWS Comprehend MedicalÜldised meditsiinilised entiteedid
GPT-4oLaiapõhjaline treening, mitte tervishoiuspetsiifiline

Entiteedikatvus varieerub

Kõik tööriistad ei leia samu PHI tüüpe.

EntiteetJohn SnowAzureAWSGPT-4o
Patsiendi nimedJahJahJahJah
Meditsiinilised kirjenumbridJahJahPiiratudPiiratud
RavimidoosidJahJahJahOsaliselt
ProtseduurikoodidJahJahPiiratudEi
Klinilised lühendidJahOsaliseltEiOsaliselt
Pereliikmete nimedJahJahOsaliseltOsaliselt

Konteksti on raske õigesti tõlgendada

Võta see kliiniline märkus:

"Patient reports taking Smith's medication. Dr. Johnson recommends increasing the dose."

Hea PHI tööriist peab siin tegema kolm asja:

  1. Lugema "Smith" brändinimerena, mitte patsiendina.
  2. Märgistama "Dr. Johnson" teenusepakkuja nimena, mis tuleb eemaldada.
  3. Teadma, et "Patient" on rollisildi, mitte nimi.

GPT-4o jätab need juhtumid vahele. See viib leidlikkuse 76%-le.

Madala täpsuse hind

Minemine 79%-lt 96%-le vähendab kokkupuudet 170 000 kirje võrra miljonist töödeldust.

<!-- VERIFIED: arithmetic derived from ECIR 2025 benchmark figures -->
TäpsusKirjedPHI kokkupuude
96%1 000 00040 000
91%1 000 00090 000
83%1 000 000170 000
79%1 000 000210 000

HIPAA trahvid kasvavad kokkupuutega

<!-- VERIFIED-EXTERNAL: HIPAA Journal penalty tiers / 45 CFR 160.404 -->
JärkPõhjusTrahv rikkumise eest
1Teadmatus$100–$50 000
2Mõistlik põhjus$1 000–$50 000
3Tahtlik hooletus, parandatud$10 000–$50 000
4Tahtlik hooletus, parandamata$50 000+

79% tööriista valik siis, kui 96% tööriistad on olemas, võib olla HHS-i reeglite kohaselt tahtlik hooletus. Vahe on teada. Parem tööriist on turul olemas.

Kuidas hübriidne pipeline täpsust tõstab

Ükski meetod ei leia kõiki PHI tüüpe. Hübriidne pipeline ladestab meetodid. Igaüks täidab lüngad, mida teised jätavad.

Sisendtekst
    ↓
[Regex mustrid] — Struktureeritud andmed: SSN, MRN, kuupäevad
    ↓
[spaCy NER] — Nimed, asukohad, organisatsioonid
    ↓
[Transformermudelid] — Kontekstisõltuvad entiteedid
    ↓
[Meditsiinisõnastikud] — Tervishoiuspetsiifilised terminid
    ↓
Ühendatud tulemused (kõrgeima usaldusega võidab)
MeetodTugevusedNõrkused
RegexTäiuslik struktureeritud andmeteleKonteksti käsitlus puudub
spaCyKiire, tavalised entiteedidPiiratud meditsiinivaru
TransformeridKontekstiteadlik, kõrge leidlikkusAeglasem
SõnastikudTäielikud meditsiiniterminidStaatiline, vajab uuendusi

Igaüks meetod püüab selle, mida teised eiravad. Vaata, kuidas see töötab turvanõuetele vastavuse lehel ja õiguslike vastavuse dokumentides.

Küsimused müüjale

Enne lepingu sõlmimist esita viis küsimust:

  1. Mis on F1-skoor kliinilistel märkmetel? Hangi kolmanda osapoole andmeid. Lükka tagasi ebamäärased väited.
  2. Millised entiteedi tüübid? Kõik 18 HIPAA Safe Harbor tunnust peavad olema kaetud.
  3. Kuidas te lühendeid käsitlete? "Pt," "Dx" ja "Hx" vajavad õiget tõlgendust.
  4. Kas te tabate pereliikmete PHI-d? "Emal on diabeet" on PHI. Paljud tööriistad jätavad selle vahele.
  5. Kas te toetate kõiki märkuste formaate? Progressimärkmed, väljakirjutamise kokkuvõtted ja radioloogiaaruanded erinevad palju.

Punased lipud, mida jälgida:

  • Konkreetsed täpsusarvud puuduvad
  • Testimine ainult puhaste, struktureeritud andmetega
  • Tervishoiu treeningandmed puuduvad
  • Vähe entiteedi tüüpe
  • HIPAA Safe Harbor valideerimine puudub

Tööriistade ise testimine

Tee oma test nelja sammuga.

Samm 1 — Loo andmekogum. Kasuta de-identifitseeritud märkmeid paljudest erialadest. Kata kõik 18 HIPAA tüüpi ning äärmuslikud juhtumid nagu lühendid ja perenimed.

Samm 2 — Sea kuldstandard. Eksperdid märgistavad iga PHI elemendi koos tüübi ja täpse vahemikuga.

Samm 3 — Käivita iga tööriist. Võrdle väljundit kuldstandardiga. Arvuta täpsus, leidlikkus ja F1.

Samm 4 — Analüüsi ebaõnnestumisi. Grupeeri vead tüübi, konteksti ja formaadi järgi. See näitab, kus iga tööriist ebaõnnestub.

Kokkuvõte

ECIR 2025 andmed on selged. 17-punktiline vahe — 96% versus 79% — tähendab 170 000 täiendavat avaldatud kirjet miljonist. Tööriistavalik on suurima riskiga muutuja suurte mahtude puhul.

Kui valid PHI tuvastamise tööriista:

  • Nõua konkreetseid täpsusandmeid kliinilisel tekstil
  • Kinnita täielik HIPAA Safe Harbor katvus
  • Testi oma dokumentide formaatidega
  • Vali hübriidpipelined ühe meetodi tööriistade asemel

Loe, kuidas tokeniseerimine töötab tokenisüsteemi dokumentatsioonis. Tavalised küsimused on KKK-s.


anonym.legal asendab PHI tokenidega enne, kui dokumendid jõuavad mõne AI tööriistani. Nimed, kuupäevad ja kirjenumbrid vahetatakse sinu poolel. Tulemused tulevad tagasi tegelike andmetega taastatud kujul — ainult sinu jaoks. Uuri hinnakirja.

Allikad

Kas olete valmis oma andmeid kaitsma?

Alustage PII anonüümitamist 285+ üksustüübi abil 48 keeles.

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.