Problém ochrany soukromí v klinických poznámkách AI
Aktualizováno pro rok 2026
Nemocnice a ambulance využívají AI k psaní klinických poznámek. AI přepisuje hlas a zpracovává text. To však vytváří mezeru v HIPAA, kterou ruční kontrola nemůže uzavřít.
Klinické poznámky generované AI vystavují záznamy o pacientech třemi způsoby:
- Křížová kontaminace: AI může přenést informace od jednoho pacienta do záznamu jiného pacienta. Medicínské studie AI toto riziko prokázaly.
- Kontextové přetékání: Informace o pacientu se ocitají ve špatném poli — v poznámce k fakturaci, výzkumném poli nebo formuláři pro doporučení. AI vyplňuje pole podle kontextu, nikoli podle účelu pole.
- Využití dat dodavatelem: Mnozí dodavatelé AI odesílají poznámky zpět k přezkumu modelu, pokud se neodhlásíte. To odesílá informace o pacientech na servery třetích stran. Tyto servery nemusí mít podepsanou smlouvu BAA.
HHS zveřejnil v roce 2025 navrhované pravidlo. Uvádí, že subjekty používající nástroje AI musí tyto nástroje zahrnout do své analýzy rizik. To vytváří formální pravidlo pro klinickou práci s podporou AI.
Pravidlo HHS o analýze rizik AI z roku 2025
HHS navrhlo nová pravidla pro pokryté subjekty využívající AI. Každý systém AI, který pracuje se záznamy pacientů, musí být zahrnut v analýze rizik subjektu.
Pravidlo má tři části:
Technické záruky: Přezkoumejte každý nástroj AI. Zeptejte se:
- Odesílá záznamy pacientů mimo vaše systémy?
- Uchovává záznamy pacientů na svých serverech po použití?
- Zapisuje informace o pacientech do nesprávného záznamu?
Školení zaměstnanců: Školení musí pokrývat rizika specifická pro AI. Zahrnuje případy záměny záznamů.
Fyzické kontroly: Pracovní stanice provozující nástroje AI musí být součástí fyzických přístupových kontrol.
Mezi klinické nástroje AI patří hlasové přepisy, nástroje pro přípravu poznámek AI a kódovací nástroje.
Proč funguje detekce před uložením
Nejlepší technický kontrolní mechanismus je detekce PHI před uložením poznámky do EHR.
Bez detekce před uložením:
- AI napíše návrh
- Zaměstnanec jej ručně zkontroluje pod časovým tlakem
- Poznámka se uloží do EHR
- Chyby PHI jsou nyní v trvalém záznamu
- Jejich oprava vyžaduje auditní záznamy a přezkum porušení
S detekcí před uložením:
- AI napíše návrh
- Před uložením proběhne sken PHI
- Označené položky jdou zaměstnanci k přezkumu
- Zaměstnanec opraví chyby před uložením
- Záznam EHR je čistý od začátku
Detekce před uložením splňuje bezpečnostní pravidlo HIPAA 164.312(b). Toto pravidlo vyžaduje systémy, které zaznamenávají a kontrolují aktivitu. Sken před uložením vytváří auditní záznam pro každou zkontrolovanou poznámku.
18 kategorií PHI v klinických poznámkách AI
HIPAA Safe Harbor vyžaduje odebrání 18 kategorií PHI (45 CFR 164.514(b)). Klinické poznámky AI mohou obsahovat všech 18 způsoby, které nemusíte očekávat:
- Jména — pacient jmenuje rodinného příslušníka v anamnéze
- Místo — domácí adresa v sociální anamnéze
- Data — data narození, přijetí, výkonů
- Telefonní a faxová čísla — kontaktní informace v poznámkách pro doporučení
- E-mailové adresy — kontaktní údaje zadané pacientem
- Rodná čísla — kontext pojištění
- Čísla zdravotních záznamů — křížové reference v souhrnech AI
- Čísla zdravotních plánů — kontext pojištění
- Čísla účtů — fakturační kontext
- Čísla licencí — licenční informace poskytovatele v doporučeních
- ID vozidel — kontext nehody v traumatologických poznámkách
- ID zařízení — poznámky o implantátech
- URL adresy — odkazy odeslané pacientem na zdravotní záznamy
- IP adresy — záznamy vzdálených relací
- Biometrická ID — otisk prstu nebo hlasový otisk
- Fotografie — propojená média v systémech AI
- Jakékoli jiné jedinečné ID — vlastní identifikátory zařízení
Modely AI mohou vytvořit kteroukoli z těchto kategorií z kontextu. Detekce musí pokrývat všech 18 — nejen rodná čísla a data.
Jak přidat detekci před uložením
Kontrola PHI před uložením následuje pět kroků:
- AI napíše návrh poznámky
- Text poznámky jde do detekčního API ještě před tím, než jej zaměstnanec vidí
- Označené položky se zobrazí v pohledu návrhu
- Zaměstnanec zkontroluje označení při normální kontrole poznámky
- Zaměstnanec uloží poznámku — bez označených položek nebo s zaznamenaným důvodem
Co systém potřebuje:
- Rychlost: pod 200 ms, aby nezpomalovalo pracovní postup
- Pokrytí: všech 18 kategorií HIPAA plus lokální vzory jako váš formát MRN
- Scoring: položky nad 85 % jsou automaticky označeny; 50–85 % vyžaduje přezkum zaměstnancem; pod 50 % jsou zobrazeny pouze pro informaci
- Auditní záznam: zaznamenat každou označenou položku, její skóre a rozhodnutí kontrolora
Auditní záznam poskytuje přímý důkaz pro analýzu rizik HHS. Ukazuje, že máte kontroly pro PHI generovanou AI.
Případ použití: Detekce před uložením ve zdravotním středisku
Jedno akademické zdravotní středisko používalo ambientní AI systém pro lékařské poznámky. Audit za 90 dní odhalil dva případy záměny. Jedna poznámka obsahovala datum narození jiného pacienta. Druhá obsahovala jméno rodinného příslušníka a rodné číslo ze sociální anamnézy.
Po přidání detekce PHI před uložením:
- Všechny návrhy AI byly skenovány před přezkumem lékaře
- Průměrná doba skenu: 47 ms — v pracovním postupu nepostřehnutelná
- Za 90 dní: 1 247 položek označeno v 8 400 poznámkách
- Zaměstnanci zkontrolovali a vyřešili 94 % označených položek
- Po spuštění nulový počet incidentů záměny záznamů
Systém produkuje měsíční zprávu. Zobrazuje míry detekce, kontroly a typy entit. Tato zpráva slouží jako důkaz auditních kontrol podle bezpečnostního pravidla HIPAA 164.312(b).
Týmy budující tento pracovní postup mohou využít API pro detekci PHI anonym.legal. Pokrývá všech 18 kategorií HIPAA při latenci pod 200 ms. Kroky nastavení viz průvodce integrací detekce PHI. Pro celkový kontext navštivte stránku případů použití ve zdravotnictví.