Lidský faktor v úniku dat AI
Podnikové průzkumy konzistentně zjišťují, že 40-60 % zaměstnanců vkládá zákaznická data do AI nástrojů navzdory zásadám zakazujícím to. Jednoduché vysvětlení: zákazníci jsou účinní, a výcvik o zásadách je abstraktní, zatímco deadline je konkrétní.
Zaměstnanec zpracovávající zákaznické lístky stojí před volbou: manuálně připravit 50 anonymizovaných příkladů pro AI prompt (45 minut) nebo vložit nezpracovaný export lístku (2 minuty). Zásada říká, aby se vyhnuli vložení. Deadline říká, aby to udělali rychle. Výsledek je předvídatelný.
Proč zásadní výcvik selhává
Výcvik o zásadách selhává kvůli kognitivní vzdálenosti mezi zobecněnými zásadami a konkrétními momentálními rozhodnutími. Zaměstnanec, který absolvoval výcvik GDPR a dobře ví, že zákaznická data by neměla být sdílena s AI, stále sdílí zákaznická data s AI — protože v okamžiku akce je zákaznická data jednoduše „data", a sdílení je jednoduše „pomáhání zákazníkovi."
Výcvik o abstraktních zásadách přemosťuje tento kognitivní skok špatně. Co funguje lépe je okamžitá, kontextuálně relevantní zpětná vazba.
Automatické zvýraznění PII: Design přístupu
Automatické zvýraznění PII zachytí text při psaní nebo vkládání a vizuálně zdůrazní detekovanou PII:
Zákazník: Jana Novotná [PERSON]
E-mail: jana.novotna@example.com [EMAIL_ADDRESS]
Problém: Zákazník nemůže přistupovat k účtu od 15. března
→ Zvýraznění v reálném čase: [PERSON] [EMAIL_ADDRESS] s barevné kódování
Vizuální zpětná vazba přemosťuje kognitivní skok: zaměstnanec vidí „toto je PII" v konkrétním kontextu, nikoli jako abstraktní pravidlo zásady.
Přístupy implementace
Rozšíření prohlížeče: Rozšíření prohlížeče mohou zachytit vstup do AI chat rozhraní (ChatGPT, Claude, Gemini) a aplikovat zvýraznění PII v reálném čase. Zaměstnanec vidí zvýraznění před odesláním.
Integrované komunikační nástroje: Slack, Teams a podobné platformy podporují integrace, které mohou analyzovat obsah před odesláním.
Podnikové DLP s PII upozorněním: Pokročilé DLP řešení mohou konfigurovat PII upozornění spíše než bloky — zaměstnanec je upozorněn, ne zablokován.
Zdroje: