Problém ochrany súkromia v klinických záznamoch AI
Aktualizované pre rok 2026
Nemocnice a kliniky používajú AI na písanie klinických poznámok. AI prepisuje hlas a vytvára text. To však vytvára medzeru HIPAA, ktorú manuálna kontrola nedokáže uzavrie.
Klinické záznamy generované AI odhalujú záznamy pacientov tromi spôsobmi:
- Skrížená kontaminácia: AI môže prenies informácie od jedného pacienta do záznamu iného pacienta. Štúdie lekárskej AI ukázali toto riziko.
- Kontextový presah: Informácie o pacientovi sa dostanú do nesprávneho pola - fakturacnej poznámky, výskumného pola alebo formulára odporúcania. AI vypla polia podla kontextu, nie podla úcelu pola.
- Použitie dát dodávatelom: Mnohí dodávatelia AI posielajú poznámky spä na preskúmanie modelu, pokia sa neodhlásíte. Toto posiela informácie o pacientovi na servery tretích strán. Tieto servery nemusia ma podpísanú BAA.
HHS zverejnil navrhované pravidlo v roku 2025. Hovorí, že subjekty používajúce nástroje AI musia tieto nástroje zahrna do svojej analýzy rizík. To vytvára formálne pravidlo pre prácu s asistenciou AI v klinickej praxi.
Pravidlo HHS z roku 2025 o analýze rizík AI
HHS navrhol nové pravidlá pre kryté subjekty, ktoré používajú AI. Každý systém AI, ktorý sa dotýka záznamov pacientov, musí figurova v analýze rizík daného subjektu.
Pravidlo má tri casti:
Technické záruky: Preskúmajte každý nástroj AI. Pytajte sa:
- Posiela záznamy pacientov mimo vaše systémy?
- Ukladá záznamy pacientov na svojich serveroch po použití?
- Zapisuje informácie o pacientovi do nesprávneho záznamu?
Školenie zamestnancov: Školenie musí zahrnova riziká špecifické pre AI. To zahrnuje prípady zámen záznamov.
Fyzické kontroly: Pracovné stanice so spustenými nástrojmi AI musia by súcasou fyzických prístupových kontrol.
Medzi klinické nástroje AI patria služby hlasu na text, nástroje na vytváranie poznámok AI a nástroje kódovania.
Preco funguje detekcia pred uložením
Najlepšia technická kontrola je detekcia PHI pred uložením poznámky do EHR.
Bez detekcie pred uložením:
- AI napíše návrh
- Personál ho manuálne skontroluje pod casovým tlakom
- Poznámka sa uloží do EHR
- Chyby PHI sú teraz v trvalom zázname
- Ich oprava vyžaduje auditové záznamy a preskúmanie narušenia
S detekciou pred uložením:
- AI napíše návrh
- Skenovanie PHI prebehne pred uložením poznámky
- Oznacené položky idú personálu na preskúmanie
- Personál opraví chyby pred uložením
- Záznam EHR je cistý od samého zaciatku
Detekcia pred uložením splna bezpecnostné pravidlo HIPAA 164.312(b). Toto pravidlo vyžaduje systémy, ktoré zaznamenávajú a kontrolujú aktivitu. Skenovanie pred uložením vytvára auditový záznam pre každú preskúmanú poznámku.
18 kategórií PHI v klinických záznamoch AI
HIPAA Safe Harbor vyžaduje odstránenie 18 kategórií PHI (45 CFR 164.514(b)). Klinické záznamy AI môžu obsahova všetkých 18 spôsobmi, ktoré nemusíte ocakáva:
- Mená - pacient menuje rodinného príslušníka v histórii symptómov
- Lokalita - domáca adresa v sociálnej histórii
- Dátumy - dátumy narodenia, prijatia, výkonov
- Telefónne a faxové císla - kontaktné informácie v odporúcacích poznámkach
- E-mailové adresy - kontaktné údaje poskytnuté pacientom
- SSNs - kontext poistenia
- Císla zdravotných záznamov - krížovo odkazované v súhrne AI
- Císla zdravotných plánov - kontext poistenia
- Císla úctov - fakturacný kontext
- Císla licencií - informácie o licencii poskytovatea v odporúcaniach
- ID vozidiel - kontext nehody v traumatologických poznámkach
- ID zariadení - poznámky o implantátoch
- URL adresy - zákaznícky odoslané odkazy na zdravotné záznamy
- IP adresy - logy vzdialených relácií
- Biometrické ID - dáta odtlackov prstov alebo hlasových odtlackov
- Fotografie - prepojené médiá v systémoch AI
- Akékolvek iné jedinecné ID - vlastné identifikátory zariadenia
Modely AI môžu vytvori ktokokvek z nich z kontextu. Detekcia musí pokrýva všetkých 18 - nielen SSNs a dátumy.
Ako pridat detekciu pred uložením
Kontrola PHI pred uložením sa riadi ptimi krokmi:
- AI napíše návrh poznámky
- Text poznámky ide do detekného API skôr, ako ho personál uvidí
- Oznacené položky sa zobrazia v náhlade návrhu
- Personál skontroluje príznaky pocas bežného preskúmania poznámky
- Personál uloží poznámku - bez oznacených položiek alebo s zaznamenaným dôvodom
Co systém potrebuje:
- Rýchlos: pod 200 ms, aby nespomalil pracovný postup
- Pokrytie: všetkých 18 kategórií HIPAA plus miestne vzory, ako je váš formát MRN
- Skórovanie: položky nad 85 % sú automaticky oznacené; 50-85 % vyžaduje preskúmanie personálom; pod 50 % sa zobrazuje len pre referenciu
- Audit log: zaznamená každú oznacenú položku, jej skóre a rozhodnutie recenzenta
Audit log vám poskytuje priamy dôkaz pre analýzu rizík HHS. Ukazuje, že máte kontroly pre PHI generovanú AI.
Prípad použitia: Detekcia pred uložením v lekárskom centre
Jedno akademické lekárske centrum používalo systém AI ambient pre poznámky lekárov. Audit za 90 dní odhalil dva prípady zámen. Jedna poznámka mala dátum narodenia iného pacienta. Druhá mala meno rodinného príslušníka a SSN zo sociálnej histórie.
Po pridaní detekcie PHI pred uložením:
- Všetky návrhy AI boli skenované pred preskúmaním lekárom
- Priemerný cas skenovania: 47 ms - v pracovnom postupe necítelné
- Za 90 dní: 1 247 položiek bolo oznacených v 8 400 poznámkach
- Personál skontroloval a vyriešil 94 % oznacených položiek
- Po spustení nula incidentov zámen záznamov
Systém produkuje mesacnú správu. Ukazuje miery detekcie, preskúmania a typy entít. Táto správa slúži ako dôkaz auditových kontrol podla bezpecnostného pravidla HIPAA 164.312(b).
Tímy budujúce tento pracovný postup môžu použi API na detekciu PHI anonym.legal. Pokrýva všetkých 18 kategórií HIPAA s latenciou pod 200 ms. Kroky nastavenia nájdete v integracnom sprievodcovi detekciou PHI. Pre celkový kontext navštívte stránku prípadov použitia v zdravotníctve.