Zpět na blogBezpečnost AI

Vložit a zapomenout: Proč zvýrazňování PII předčí školení

62 % zaměstnanců, kteří používají nástroje AI pro práci se zákaznickými daty, na odstranění PII „někdy” zapomíná. Proto automatické zvýrazňování eliminuje toto compliance riziko.

March 6, 20267 min čtení
AI securityChrome extensionPII preventioncompliance trainingcustomer support

Vložit a zapomenout: Proč zvýrazňování předčí compliance školení

Aktualizováno pro rok 2026.

Každý tým používající nástroje AI čelí stejnému problému. Zaměstnanci by měli před vložením do ChatGPT, Claude nebo Gemini osobní data odstranit. Ale často to neudělají.

Průzkum IAPP z roku 2025 zjistil, že 62 % zaměstnanců, kteří používají nástroje AI pro práci se zákaznickými daty, na odstranění osobních dat „někdy” nebo „často” zapomíná. To není mezera ve znalostech. Většina zaměstnanců ví, co jsou osobní data. Je to mezera v pracovním postupu. Kontrola musí proběhnout pod časovým tlakem. Přeskakuje se.

To je problém „vložit a zapomenout”. Zaměstnanec vloží záznam zákazníka do nástroje AI. To je nejrychlejší cesta k cíli. Krok compliance není součástí této cesty. Přehlíží se.

Proč samo školení nestačí

Školení říká zaměstnancům, co mají dělat. Nemění moment akce.

Vysvětluje to výzkum kognitivní zátěže. Bezpečnostní kontroly selhávají, když jsou přidány jako samostatné mentální kroky. Letectví používá fyzické kontrolní listy. Zdravotnické pracovní postupy používají povinné ověřovací obrazovky. Compliance školení přidává mentální krok — „zkontrolovat osobní data” — který soutěží s cílem rychle uzavřít lístek.

Způsob selhání je jasný. Pod tlakem extra krok vypadne. Školení to zpozdí. Nezastaví to.

Jak automatické zvýrazňování opravuje pracovní postup

Automatické zvýrazňování odstraňuje potřebu si pamatovat. Zobrazuje osobní data při každém vložení. Není potřeba žádná akce uživatele.

Pracovní postup s automatickým zvýrazňováním:

  1. Zaměstnanec zkopíruje e-mail zákazníka nebo lístek
  2. Zaměstnanec vloží do ChatGPT, Claude nebo Gemini
  3. Entity jsou okamžitě zvýrazněny — bez nutnosti akce uživatele
  4. Zaměstnanec vidí zvýraznění a klikne na „Anonymizovat”
  5. Anonymizovaný text jde do nástroje AI

Krok „pamatovat si na kontrolu” je pryč. Vizuální signál odvede práci. Spustí se při každém vložení, pokaždé. Nespoléhá na paměť ani pozornost.

Proč týmy podpory čelí nejvyššímu riziku

Týmy podpory mají nejvyšší rizikový profil pro úniky „vložit a zapomenout”. Kombinují se čtyři faktory:

Objem. Operátor vyřizující 60–80 lístků denně činí 60–80 rozhodnutí ohledně AI. Každé s sebou nese malou pravděpodobnost chyby. Ve větším měřítku se úniky hromadí.

Tlak na rychlost. SLA podpory odměňují rychlé odpovědi. Ruční přezkum soutěží s pobídkou rychle uzavřít lístky.

Nepředvídatelný obsah. Stížnost na vyúčtování může v sedmém odstavci obsahovat národní doklad. Ruční skenování dlouhých lístků není spolehlivé.

Rutina. Po 200 bezpečně dokončených interakcích se 201. přeskočí. Lidé neudržují pozornost u rutinních úkolů.

Automatické zvýrazňování zvládá všechny čtyři faktory. Běží při každém vložení. Nepřidává časovou zátěž. Nachází citlivá data kdekoliv se nacházejí. Nezdegraduje s opakováním.

Reálný výsledek: Tým zákaznického úspěchu

Třicetičlenný tým zákaznického úspěchu v B2B SaaS firmě používal Claude k sumarizaci poznámek z hovorů a přípravě navazující komunikace. Před nasazením rozšíření Chrome odhalily namátkové kontroly 15–20 incidentů s osobními daty měsíčně. Týkaly se jmen zákazníků, firemních údajů a kontaktních informací v promptech pro Claude.

Zájem vedoucího týmu byl o škálu. Se 100 operátory a deseti denními interakcemi každého by míra incidentů rychle rostla.

Po 90 dnech s rozšířením Chrome:

  • Počet incidentů poklesl z odhadovaných 15–20 za měsíc na 1–2 za měsíc
  • Vedoucí týmu: „Operátoři vidí oranžová zvýraznění a kliknou anonymizovat bez přemýšlení”
  • Žádné stížnosti na tření — akce trvá méně než dvě sekundy
  • Jediné sledované incidenty byly případy, kdy operátoři varování odmítli a přesto odeslali

Zbývající 1–2 incidenty za měsíc zahrnovaly aktivní odmítnutí. To je jiný problém. Záměrné porušení politiky není „vložit a zapomenout”.

Poznámka: ilustrativní případová studie. Výsledky se liší podle velikosti týmu a vzorců využívání AI.

Co zvýrazňování nemůže nahradit

Automatické zvýrazňování je jednou vrstvou v compliance stacku. Nepokrývá vše.

Záměrná porušení. Zaměstnanci, kteří varování odmítnou a přesto odešlou, nejsou zastaveni. Zvýrazňování podněcuje k akci. Neblokuje ji.

Mezery v pokrytí. Detekce závisí na nastavení entit. Vlastní identifikátory jedinečné pro vaši organizaci musí být přidány ručně. Jinak se neobjeví.

Psaný vstup. Detekce vložení se spouští pouze při událostech vložení. Zaměstnanci, kteří zákaznická data píší přímo, nejsou pokryti. Detekce stisků kláves toto pokrytí doplňuje.

Vymáhání politiky. Zvýrazňování je technickým podnětem. Vyžaduje za sebou organizační politiku. Bez definovaných důsledků za odmítnutí nemá podnět žádnou váhu.

Správný rámec jsou vrstvené kontroly. Zvýrazňování eliminuje způsob selhání „vložit a zapomenout” — v praxi největší. Politika a školení se postarají o zbytek. Jak tyto vrstvy do sebe zapadají, viz DLP na úrovni prohlížeče pro ChatGPT, Claude a Gemini.

Budování compliance případu

Pro audity GDPR nebo přezkumy ISO 27001 vám automatická detekce poskytuje tři věci, které samotné školení poskytnout nemůže.

Konkrétní technický kontrolní mechanismus. „Máme detekci osobních dat na úrovni prohlížeče pro všechny interakce s nástroji AI” je konkrétním opatřením podle článku 32 GDPR.

Kvantitativní data o incidentech. Míra detekce, míra anonymizace a míra odmítnutí jsou čísla. Ukazují výkon kontroly v čase.

Výpočet reziduálního rizika. Pokud 62 % událostí vložení obsahuje osobní data (základní hodnota IAPP) a míra detekce je 94 %, reziduální riziko je 62 % × 6 % = přibližně 3,7 % událostí vložení. To přímo podporuje analýzu proporcionality podle článku 32.

Školení říká zaměstnancům, co mají dělat. Zvýrazňování zajišťuje, že to dělají. Pro auditory je tento rozdíl v důkazech klíčový. Viz také shoda s článkem 32 GDPR pro nástroje AI pro kompletní balíček technického kontrolního mechanismu.

Zdroje

Připraveni chránit svá data?

Začněte anonymizovat PII s 273 typy entit ve 48 jazycích.