HIPAA a ChatGPT: Právny problém
HIPAA (Zákon o prenositeľnosti a zodpovednosti zdravotníckej poisťovne) vyžaduje, aby všetci zdravotnícki pracovníci a výskumníci:
- Chránili chránené zdravotné informácie (PHI) pred neoprávneným prístupom
- Neprenosili PHI tretím stranám bez podpísaného Dohody o spracovaní údajov (DPA — Data Processing Agreement)
OpenAI nepodpisuje DPA pre účely HIPAA (od roku 2024). To znamená:
- Zdravotníci nemôžu používať ChatGPT s pacientskými údajmi bez porušenia HIPAA
- Ani v anonymizovanej forme — pokiaľ nie sú údaje ireverzibilne anonymizované
Ale v klinickej praxi sa oftedy používajú podľa požiadavky názov — „Pacient, ktorý je muž, 45 rokov starý, s históriou diabetu typu 2, teraz s bolestami na hrudníku."
Je to PHI, a nemôže byť poslané do ChatGPT.
Riešenie: Anonymizácia za chodu v prehliadači
Bezpečný postup:
- Klinický pracovník zadá pacientskú správu do textového poľa
- Pred odoslaním do ChatGPT sa spustí Anonymizácia za chodu
- Anonymizátor detekuje PHI (pacient meno, čísla pacientov, atď.)
- PHI sa nahradí placekami alebo sa odstráni
- Anonymizovaná správa sa posiela do ChatGPT API
- ChatGPT vráti odborný názor bez priameho prístupu k PHI
Výhody:
- HIPAA kompatibilné — PHI nikdy neopúšťa zariadenie klinicistu
- Bez DPA — Žiadny podpísaný Dohoda o spracovaní údajov nie je potrebná
- OpenAI môže byť bez HIPAA kompatibilného — akékoľvek API sa dá používať
Technické implementácia
Tri možnosti:
Možnosť 1: Prehliadač rozšírenie
- Rozšírenie chatbotu ChatGPT (ako anonym.legal) čítajúce obsah vstupného poľa
- Pred odoslaním do ChatGPT sa spustí NLP model na detekciu PHI
- PHI sa nahradí ([PATIENT_NAME], [MRN], atď.)
- Anonymizovaný text sa posiela do ChatGPT
Výhody:
- Zero server — všetko je lokálne
- Žiadne opisy serveru
- Rýchly (malé NLP modely bežia lokálne)
Nevýhody:
- Menšia presnosť — malé NLP modely sú menej presné ako Cloud modely
- Vyžaduje rozšírenie nainštalovať
Možnosť 2: Proxy server bez HIPAA
- Klinickej infraštruktúre sa nasadzuje proxy server
- Proxy zachytáva ChatGPT požiadavky, anonymizuje PHI, posiela do ChatGPT
- ChatGPT odpoveď sa zachytáva späť a posiela klinickému pracovníkovi
Výhody:
- Centrálne spravované — IT oddelenie môže spravovať v jednom mieste
- Vysoká presnosť — používa Cloud NLP modely
- Žiadne rozšírenia potrebné
Nevýhody:
- Vyžaduje správu infraštruktúry
- Vyžaduje správu certifikátov TLS
- Spomalenije — všetky požiadavky prechádzajú cez proxy
Možnosť 3: Lokálny LLM bez HIPAA
- Klinickej infraštruktúre sa nasadzuje lokálny LLM model (Llama 2, Mistral)
- Model bežiči lokálne bez komunikácie s OpenAI
- PHI zostáva úplne lokálne
Výhody:
- Bez komunikácie s tretou stranou
- Úplná kontrola
- Bez DPA potreby
Nevýhody:
- Menej presné ako ChatGPT
- Nákladné na infraštruktúru
- Vyžaduje spravovanie serveru
Regulačné rozhodnutie
Na základe HIPAA, je legálne:
- Anonymizácia za chodu v prehliadači — HIPAA kompatibilné, ak anonymizácia je ireverzibilná
- Proxy server bez HIPAA — HIPAA kompatibilné, ak proxy je spravovaný tvorcou zdravotníckych údajov
- Lokálny LLM — HIPAA kompatibilné bez otázok
Nelegálne:
- Priame posielanie PHI do ChatGPT bez DPA — porušenie HIPAA Pravidiel
Budúcnosť
OpenAI oznámil, že pracuje na HIPAA kompatibilnej verzii ChatGPT, ale to nie je k dispozícii. Zatiaľ čo to čakáte, anonymizácia za chodu v prehliadači je legálnym spôsobom, ako bezpečne používať ChatGPT s pacientskými údajmi.