anonym.legal

By · Last updated 2026-04-04

Späť na blogBezpečnosť AI

AI politika bez technickych kontrol zlyháva

77 % zamestnancov zdieľa citlive pracovne data s AI nastrojmi napriek zakazujucim politikam. Vládny dodávateľ vložil data žiadateľov o pomoc FEMA pri povodniach do ChatGPT.

April 4, 20268 min čítania
AI data governancetechnical controlsChatGPT policy failureChrome Extension DLPenterprise AI security

Keď politika naraží na skutočné správanie

Vládny dodávateľ bol pod tlakom. Mal nedôborárku žiadostí o povodňovú pomoc FEMA na spracovanie. Vložil mena, adresy a zdravotne záznamy do ChatGPT, aby pracoval rýchlejšie. Vo svojej mysli neporušil ziadne zakony. Len použil najlepší nastroj po ruke.

Vysledok: vládne vyšetrovanie a verejne odhalenie.

Toto je jadro zlyhania riadenia AI zalozeneho len na politike. Politiky hovoria zamestnancom, čo robiť. Nezastavuju správanie.

77 % podnikových zamestnancov zdieľa citlive pracovne data s AI nastrojmi aspoň raz tyzdenné — aj ked politika to zakazuje (eSecurity Planet/Cyberhaven 2025). To nie su bezohledni pracovnici. Su to ludia pod casovym tlakom, ktori volia najrychlejší nastroj.

Preco politiky padaju

Politiky pre pouzívanie AI sa spolahaju na ľudský úsudok v momente zadávania vstupov. Ten moment je rychly. Zamestnanec si politiku nemusí pamätat. Nemusí obsah považovať za "citlivy." Moze akceptovať riziko, pretoze casova uspora sa zda velka.

Analýza Cyberhaven za Q4 2025 zistila, ze 34,8 % vsetkych vstupov do ChatGPT obsahuje dôverné obchodné informácie. Mnohí z tychto používatelov politiku poznali. Napriek tomu vložili data.

Prístupové politiky funguju, pretoze systémy ich presadzuju. DLP na e-mailovej vrstve funguje, pretoze systémy ho aplikuju. Politiky pre pouzívanie AI nemaju presadzovanie v bode vloženia. Na tomto mieste rozhoduje ľudsky úsudok. Ľudia vo veľkom meradle robia chyby.

Dodávateľ FEMA urobil jednu z tychto chýb. Nebol zlým aktérom. Nastroj zvítazil, pretoze politika ho žiadala, aby si vybral pomalosť pred rychlosťou. Pod tlakom si vybral rychlosť.

Technicke kontroly zastavia to, čo politiky nezvládnu

Jedina oprava, ktorá funguje vo veľkom meradle, pôsobí na technickej vrstve — nie na vrstvě tréningu.

Rozšírenie prehliadača môže zachytiť obsah schránky predtym, ako sa dostane do akéhokoľvek webového AI. Ked dodávateľ kopíruje mena a adresy žiadateľov a vkladá do ChatGPT, rozšírenie detekuje PII, anonymizuje ho a posiela čistú verziu. AI vidí [NAME_1] a [ADDRESS_1] namiesto skutočnych hodnot. Stale dokončí ulohu. Súkromné údaje žiadateľa sa nikdy nedostanu na servery ChatGPT.

Toto je automaticke. Nevyzaduje od používateľa, aby si čokoľvek pamätal.

Pre vývojárov pouzívajúcich Cursor alebo GitHub Copilot poskytuje MCP Server tú istú vrstvu. Kód vloženy do AI kontextu prechádza najprv cez anonymizacný engine. Prihlasovacie údaje a proprietárne identifikátory sa stávaju tokenmi. AI dostáva čistý vstup a stale poskytuje užitočný výstup.

Pozrite, ako sa to porovnáva s blokovaním: Blokovanie vs. anonymizácia — Browser DLP v porovnaní.

Co sa zmení s technickymi kontrolami

S rozšírením prehliadača na mieste scenár dodávateľa FEMA prebehne inak:

  1. Dodávateľ skopíruje záznamy žiadateľov z případového systemu
  2. Rozšírenie detekuje PII v schránke
  3. Náhľadové okno zobrazí, co bude nahradene
  4. Anonymizovaná verzia ide do ChatGPT
  5. ChatGPT spracuje žiadosť a vráti výsledky
  6. Dodávateľ dostane potrebnú pomoc — žiadne vyšetrovanie nespustene

Politiku nebolo treba meniť. Školenie nemuselo prebehnúť. Zachytávacia vrstva to zvládla.

Schkolenie v oblasti politiky znizuje riziko na okrajoch. Technicke kontroly eliminuju mod zlyhania. Incident s FEMA bol zlyhaním politiky. S jedným Chrome Extension nasadenym na zariadení toho dodávateľa by bol bez incidentu.

Pozri tiez:

Zdroje

Súvisiace články

Bezpečnosť AI

AI Coding Assistants Leak Production PII

Unit test fixtures with real customer records. Log files with production data for debugging. GitHub found 39 million secrets leaked in 2024.

Bezpečnosť AI

Internal Wiki PII: Confluence Customer Data

Support teams document processes with screenshots of customer accounts. Over 3 years, that's thousands of GDPR data minimization violations in your.

Bezpečnosť AI

Screenshot PII: Leaks in Internal Tools

Slack, Teams, Jira, and email regularly receive screenshots containing customer PII. This access-control violation bypasses every DLP tool.

Pripravení chrániť vaše údaje?

Začnite anonymizovať PII s 285+ typmi entít v 48 jazykoch.

Začať bezplatnú skúšobnú verziuZobraziť funkcie

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.