Problem prywatności notatek klinicznych tworzonych przez AI
Zaktualizowano na rok 2026
Szpitale i kliniki korzystają z AI do sporządzania notatek klinicznych. AI transkrybuje głos i redaguje tekst. Tworzy to jednak lukę w HIPAA, której ręczna weryfikacja nie jest w stanie zamknąć.
Notatki generowane przez AI narażają dokumentację pacjentów na trzy sposoby:
- Kontaminacja krzyżowa: AI może przenosić informacje jednego pacjenta do dokumentacji innego. Badania nad medycznym AI potwierdziły to ryzyko.
- Wyciek kontekstu: Dane pacjenta trafiają do niewłaściwego pola — noty rozliczeniowej, pola badawczego lub formularza skierowania. AI wypełnia pola na podstawie kontekstu, a nie przeznaczenia pola.
- Wykorzystanie danych przez dostawcę: Wielu dostawców AI przesyła notatki do przeglądu modelu, chyba że zrezygnujesz. Oznacza to wysyłanie danych pacjenta na serwery podmiotów trzecich, które mogą nie mieć podpisanej Umowy o Stowarzyszeniu Biznesowym (BAA).
W 2025 roku HHS opublikował projekt regulacji stwierdzający, że podmioty korzystające z narzędzi AI muszą uwzględnić te narzędzia w swojej analizie ryzyka. Stanowi to formalne uregulowanie pracy klinicznej wspomaganej przez AI.
Regulacja HHS z 2025 roku dotycząca analizy ryzyka AI
HHS zaproponował nowe przepisy dla podmiotów objętych HIPAA, które korzystają z AI. Każdy system AI mający kontakt z dokumentacją pacjentów musi znaleźć się w analizie ryzyka podmiotu.
Regulacja obejmuje trzy obszary:
Zabezpieczenia techniczne: Sprawdź każde narzędzie AI. Zadaj pytania:
- Czy wysyła dokumentację pacjentów poza Twoje systemy?
- Czy przechowuje dokumentację pacjentów na swoich serwerach po użyciu?
- Czy zapisuje dane pacjenta do niewłaściwej dokumentacji?
Szkolenia pracownicze: Szkolenia muszą obejmować ryzyka specyficzne dla AI. Dotyczy to przypadków pomyłek w dokumentacji.
Zabezpieczenia fizyczne: Stacje robocze obsługujące narzędzia AI muszą być objęte fizyczną kontrolą dostępu.
Kliniczne narzędzia AI obejmują usługi zamiany mowy na tekst, narzędzia do redagowania notatek AI oraz narzędzia do kodowania medycznego.
Dlaczego detekcja przed zapisem działa
Najlepszym środkiem technicznym jest detekcja PHI zanim notatka zostanie zapisana do EHR.
Bez detekcji przed zapisem:
- AI redaguje wersję roboczą
- Pracownik weryfikuje ją ręcznie, pod presją czasu
- Notatka zostaje zapisana do EHR
- Błędy PHI trafiają do stałej dokumentacji
- Ich korekta wymaga wpisów audytowych i przeglądu naruszenia
Z detekcją przed zapisem:
- AI redaguje wersję roboczą
- Skanowanie PHI uruchamia się przed zapisem notatki
- Oznaczone elementy trafiają do weryfikacji przez pracownika
- Pracownik koryguje błędy przed zapisem
- Zapis EHR jest czysty od początku
Detekcja przed zapisem spełnia wymogi Reguły Bezpieczeństwa HIPAA 164.312(b). Reguła ta wymaga systemów rejestrujących i kontrolujących aktywność. Skan przed zapisem tworzy dokumentację audytową dla każdej zweryfikowanej notatki.
18 kategorii PHI w notatkach AI
Metoda bezpiecznej przystani HIPAA wymaga usunięcia 18 kategorii PHI (45 CFR 164.514(b)). Notatki AI mogą ujawniać wszystkie 18 w nieoczekiwany sposób:
- Imiona i nazwiska — pacjent wymienia członka rodziny w historii objawów
- Lokalizacja — adres domowy w historii społecznej
- Daty — daty urodzenia, przyjęcia, zabiegów
- Numery telefonów i faksów — dane kontaktowe w notatkach do skierowań
- Adresy e-mail — dane kontaktowe podane przez pacjenta
- Numery PESEL / SSN — kontekst ubezpieczeniowy
- Numery dokumentacji medycznej — odsyłacze w podsumowaniach AI
- Numery planów zdrowotnych — kontekst ubezpieczeniowy
- Numery kont — kontekst rozliczeniowy
- Numery licencji — dane licencji lekarzy w skierowaniach
- ID pojazdów — kontekst wypadków w notatkach urazowych
- ID urządzeń — notatki dotyczące implantów
- Adresy URL — linki do dokumentacji medycznej przesłane przez pacjenta
- Adresy IP — logi sesji zdalnych
- ID biometryczne — dane odcisków palców lub głosu
- Zdjęcia — powiązane media w systemach AI
- Inne unikalne identyfikatory — niestandardowe identyfikatory placówki
Modele AI mogą generować każdą z tych kategorii na podstawie kontekstu. Detekcja musi obejmować wszystkie 18 — nie tylko numery SSN i daty.
Jak wdrożyć detekcję przed zapisem
Kontrola PHI przed zapisem obejmuje pięć kroków:
- AI redaguje wersję roboczą notatki
- Tekst notatki trafia do API detekcji, zanim zobaczy go pracownik
- Oznaczone elementy są wyświetlane w widoku wersji roboczej
- Pracownik weryfikuje oznaczenia podczas normalnego przeglądu notatki
- Pracownik zapisuje notatkę — bez oznaczonych elementów lub z odnotowanym uzasadnieniem
Wymagania systemowe:
- Szybkość: poniżej 200 ms, by nie spowalniać przepływu pracy
- Pokrycie: wszystkie 18 kategorii HIPAA oraz lokalne wzorce, np. format numeru dokumentacji medycznej MRN
- Ocena: elementy powyżej 85% są automatycznie oznaczane; 50–85% wymaga weryfikacji pracownika; poniżej 50% wyświetlane jako informacja pomocnicza
- Dziennik audytu: każdy oznaczony element, jego wynik, decyzja weryfikatora i czas są rejestrowane
Dziennik audytu stanowi bezpośredni dowód dla analizy ryzyka HHS. Pokazuje, że posiadasz środki kontroli dla PHI generowanego przez AI.
Przypadek użycia: detekcja przed zapisem w centrum medycznym
Jedno z akademickich centrów medycznych używało ambientowego systemu AI do notatek lekarzy. Audyt 90-dniowy ujawnił dwa przypadki pomyłek. Jedna notatka zawierała datę urodzenia innego pacjenta. W drugiej znajdowało się imię i nazwisko oraz numer SSN członka rodziny z historii społecznej.
Po wdrożeniu detekcji PHI przed zapisem:
- Wszystkie wersje robocze AI były skanowane przed przeglądem lekarza
- Średni czas skanu: 47 ms — niezauważalne w przepływie pracy
- W ciągu 90 dni: 1 247 elementów zostało oznaczonych w 8 400 notatkach
- Pracownicy zweryfikowali i rozwiązali 94% oznaczonych elementów
- Zero incydentów z pomyłkami w dokumentacji po uruchomieniu
System generuje miesięczny raport. Pokazuje wskaźniki detekcji, weryfikacji i typy encji. Raport ten służy jako dowód kontroli audytowych zgodnie z Regułą Bezpieczeństwa HIPAA 164.312(b).
Zespoły budujące ten przepływ pracy mogą użyć API detekcji PHI anonym.legal. Obejmuje wszystkie 18 kategorii HIPAA przy opóźnieniu poniżej 200 ms. Zapoznaj się z przewodnikiem integracji detekcji PHI dotyczącym kroków konfiguracji. Pełny kontekst znajdziesz na stronie zastosowań w ochronie zdrowia.