anonym.legal

By · Last updated 2026-04-04

Nazaj na blogVarnost umetne inteligence

Politika umetne inteligence brez tehnicnih kontrol ne deluje

77% zaposlenih deli obcutljive delovne podatke z orodji za umetno inteligenco kljub politikam, ki to prepovedujejo. Vladni izvajalec je v ChatGPT prilepil podatke prosilcev za pomoc FEMA po poplavah.

April 4, 20268 min branja
AI data governancetechnical controlsChatGPT policy failureChrome Extension DLPenterprise AI security

Ko politika naleti na realno vedenje

Vladni izvajalec je bil pod pritiskom. Imel je zaostanke pri obdelavi vlog za pomoc FEMA po poplavah. V ChatGPT je prilepil imena, naslove in zdravstvene zapise, da bi delal hitreje. V svojih oceh ni krsil nobenega zakona. Preprosto je uporabil najboljse orodje, ki ga je imel pri roki.

Posledica: vladna preiskava in javno razkritje.

To je osnovna napaka upravljanja AI, ki temelji zgolj na politikah. Politike zaposlenim povejo, kaj naj delajo. Ne ustavijo vedenja.

77% zaposlenih v podjetjih deli obcutljive delovne podatke z orodji za AI vsaj tedensko -- celo ko politika to prepoveduje (eSecurity Planet/Cyberhaven 2025). To niso nepremisljeni delavci. So ljudje pod casovnim pritiskom, ki izberejo najhitrejse orodje.

Zakaj politike odpovejo

Politike uporabe AI se zanasajo na presojo cloveka v trenutku vnosa. Ta trenutek je hiter. Zaposleni se morda ne spomni politike. Morda vsebine ne dojema kot "obcutljive". Morda sprejme tveganje, ker se casovni prihranki zdijo veliki.

Analiza Cyberhaven za 4. cetrtletje 2025 je ugotovila, da 34,8% vseh vnosov v ChatGPT vsebuje zaupne poslovne informacije. Mnogi od teh uporabnikov so politiko poznali. Pa so vseeno prilepili.

Politike dostopa delujejo, ker jih uveljavljajo sistemi. DLP na ravni e-pospejevanjopote deluje, ker ga uveljavljajo sistemi. Politike uporabe AI nimajo uveljavljanja v trenutku prilepljenja. Cloveska odlocitev zapolni to vrzel. V vecjem obsegu ljudje delajo napake.

Izvajalec pri FEMA je naredil eno od teh napak. Ni bil slabe volje. Orodje je zmagalo, ker ga je politika prosila, naj izbere pocasnost pred hitrostjo. Pod pritiskom je izbral hitrost.

Tehnicni ukrepi zaustavijo tisto, cesa politike ne morejo

Edina resitev, ki deluje v vecjem obsegu, deluje na tehnicni ravni -- ne na ravni usposabljanja.

Rozsiritev brskalnika lahko prestreze vsebino odlozisca, preden dosezekatero koli spletno umetno inteligenco. Ko izvajalec skopira imena in naslove prosilcev ter jih prilepi v ChatGPT, razsiritev zazna PII, jo anonimizira in poslje cisto razlicico. Umetna inteligenca vidi [NAME_1] in [ADDRESS_1] namesto resnicnih vrednosti. Se vedno dokonca nalogo. Zasebni podatki prosilcev nikoli ne dosezejo Googlovih streznikov ChatGPT.

To je samodejno. Ne zahteva, da si uporabnik karkoli zapomni.

Za razvijalce, ki uporabljajo Cursor ali GitHub Copilot, streznik MCP zagotavlja isto plast. Koda, prilepljena v kontekst AI, najprej gre skozi pogon za anonimizacijo. Poverilnice in lastniski identifikatorji postanejo znaki. Umetna inteligenca prejme cist vnos in se vedno da koristen izhod.

Poglejte, kako se to primerja z blokiranjem: Blokiranje v primerjavi z anonimizacijo -- primerjava brskalniskih DLP.

Kaj se spremeni s tehnicnimi ukrepi

Z razsiritvijo brskalnika scenarij izvajalca pri FEMA potece drugace:

  1. Izvajalec skopira zapise prosilcev iz sistema za primere
  2. Razsiritev zazna PII v odloziscu
  3. Predogledno okno pokaze, kaj bo zamenjano
  4. Anonimizirana razlicica gre v ChatGPT
  5. ChatGPT obdela zahtevo in vrne rezultate
  6. Izvajalec dobi potrebno pomoc -- brez prozene preiskave

Politike ni bilo treba spremeniti. Usposabljanja ni bilo treba izvesti. Prestreznalcna plast je to uredila.

Usposabljanje po politikah zmanjsa tveganje na robu. Tehnicni ukrepi odpravijo nain napake. Incident pri FEMA je bil napaka politike. Postal bi neznaten z eno razsiritvijo Chrome, uveljavljeno na napravi tega izvajalca.

Glejte tudi:

Viri

Sorodni članki

Varnost umetne inteligence

AI Coding Assistants Leak Production PII

Unit test fixtures with real customer records. Log files with production data for debugging. GitHub found 39 million secrets leaked in 2024.

Varnost umetne inteligence

Internal Wiki PII: Confluence Customer Data

Support teams document processes with screenshots of customer accounts. Over 3 years, that's thousands of GDPR data minimization violations in your.

Varnost umetne inteligence

Screenshot PII: Leaks in Internal Tools

Slack, Teams, Jira, and email regularly receive screenshots containing customer PII. This access-control violation bypasses every DLP tool.

Ste pripravljeni zaščititi svoje podatke?

Začnite z anonimizacijo PII z več kot 285 tipi entitet v 48 jezikih.

Začnite brezplačno preizkušnjoOgled funkcij

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.