Problém umělé inteligence v klinickém prostředí
Lékaři a studenti medicíny používají ChatGPT a Claude každý den. Ověřují dávkování léků, vyhledávají diagnózy, přehlíží plány léčby. Nástroje jsou užitečné.
Vkládání skutečných pacientských dat do těchto nástrojů však představuje riziko z hlediska HIPAA. Text putuje na servery poskytovatele umělé inteligence. Bez podepsané smlouvy Business Associate Agreement (BAA) pro danou službu jde o porušení HIPAA. Standardní účty ChatGPT a Claude neobsahují BAA pro klinické použití.
Dostupné možnosti nejsou uspokojivé. Buď pracovat s umělou inteligencí s reálnými daty a riskovat porušení předpisů, nebo ručně odstranit z každé poznámky vše citlivé před vložením — pomalý krok, který zaneprázdnění kliničtí pracovníci často přeskočí. Přeskočení tohoto kroku vytváří přesně ten únik, kterému měl celý postup zabránit.
Proč ruční kontrola selhává
HIPAA Safe Harbor vyžaduje odstranění 18 typů identifikátorů. Lékař zachytí jméno pacienta a datum. Některé identifikátory jsou však snadno přehlédnutelné.
Jedním příkladem jsou geografické podidentifikátory. Dalším je kombinace věku s datem přijetí — společně mohou tvořit krytý identifikační pár dle HIPAA. Tyto vzorce nejsou pod časovým tlakem zřejmé.
Výzkum společnosti Menlo Security z roku 2025 zjistil, že zachycení zdravotních údajů v reálném čase v prohlížeči snižuje incidenty úniku o 94 %. Tento rozdíl ukazuje, co kliničtí pracovníci přehlédnou oproti tomu, co zachytí nástroje. Data Cyberhaven potvrzují rozsah: 77 % zaměstnanců sdílí citlivé pracovní informace s nástroji umělé inteligence nejméně jednou týdně.
Jak pomáhá rozšíření prohlížeče
Rozšíření Chrome kontroluje text v okamžiku odeslání — ještě před tím, než prompt dosáhne umělé inteligence. Lékař vidí krátký náhled zobrazující, jaké zdravotní údaje byly nalezeny a co bude zamaskováno.
Jde o záchrannou síť, nikoli blokující zásah. Lékař může pokračovat, upravit nebo zastavit. Přidává jednu krátkou kontrolu k jinak rychlé akci.
Představte si učitele vnitřního lékařství používajícího Claude pro výuku na základě případů. Vloží kazuistiku, kterou již zkontroloval. Rozšíření provede druhý průchod. Pokud je poznámka čistá, nezobrazí se žádné upozornění a sezení pokračuje. Pokud prošel nějaký detail — dvojice dat nebo název malého města — nástroj ho zachytí jako první.
Tento model se hodí pro klinickou práci. Zachovává lékaři kontrolu a přidává záchrannou síť pro vzorce, které lidé mívají tendenci přehlédnout.
Viz naše srovnání přesnosti detekce PHI pro srovnávací testy nástrojů. Náš průvodce HIPAA, cloudem a zero-knowledge popisuje pravidla BAA a záruky. Průvodce DLP pro prohlížeče obsahuje detaily nastavení.
Zdroje
- Cyberhaven 2025: 77 % zaměstnanců sdílí citlivé pracovní informace s nástroji umělé inteligence každý týden
- Menlo Security 2025: Zachycení osobních údajů v reálném čase v prohlížeči snižuje úniky o 94 %
- Sprypt.com: Požadavky na soulad s HIPAA při používání umělé inteligence ve zdravotnictví v roce 2025