anonym.legal

By · Last updated 2026-04-04

Takaisin BlogiinAI Turvallisuus

Tekoälypolitiikka ilman teknisiä kontrolleja epäonnistuu

77 % työntekijöistä jakaa arkaluonteista työdataa tekoälytyökaluille politiikasta huolimatta. Hallituksen urakoitsija liittoi FEMA:n tulvakatastrofihakijatietoja ChatGPT:hen.

April 4, 20268 min lukuaika
AI data governancetechnical controlsChatGPT policy failureChrome Extension DLPenterprise AI security

Kun politiikka kohtaa todellisen käyttäytymisen

Eräs hallituksen urakoitsija oli paineessa. Hänellä oli ruuhka FEMA:n tulvakatastrofihakemuksia käsiteltävänä. Hän liitti nimiä, osoitteita ja terveystietoja ChatGPT:hen töiden nopeuttamiseksi. Hän ei mielestään rikkonut lakeja. Hän käytti vain parasta saatavilla olevaa työkalua.

Seuraus: hallituksen tutkinta ja julkinen tiedotus.

Tässä on politiikkalähtöisen tekoälyn hallinnan ydinepäonnistuminen. Politiikat kertovat työntekijöille, mitä tehdä. Ne eivät pysäytä käyttäytymistä.

77 % yritysten työntekijöistä jakaa arkaluonteista työdataa tekoälytyökaluille vähintään viikoittain — vaikka politiikka kieltää sen (eSecurity Planet/Cyberhaven 2025). Nämä eivät ole harkitsemattomia työntekijöitä. He ovat ihmisiä, jotka ovat aikapaineen alla ja valitsevat nopeimman työkalun.

Miksi politiikat hajoavat

Tekoälyn käyttöpolitiikat luottavat ihmisen harkintaan syöttöhetkellä. Tuo hetki on nopea. Työntekijä ei välttämättä muista politiikkaa. Hän ei ehkä pidä sisältöä "arkaluonteisena". Hän saattaa hyväksyä riskin, koska ajansäästö tuntuu suurelta.

Cyberhaven Q4 2025 -analyysi osoitti, että 34,8 % kaikista ChatGPT-syötteistä sisältää luottamuksellista liiketoimintatietoa. Monet näistä käyttäjistä tiesivät politiikan. He liitoivat silti.

Käyttöoikeuspolitiikat toimivat, koska järjestelmät valvovat niitä. DLP sähköpostikerroksessa toimii, koska järjestelmät soveltavat sitä. Tekoälyn käyttöpolitiikoilla ei ole valvontaa liittämishetkellä. Ihmisen päätös täyttää tämän aukon. Suuressa mittakaavassa ihmiset tekevät virheitä.

FEMA-urakoitsija teki yhden näistä virheistä. Hän ei ollut pahantahtoinen. Työkalu voitti, koska politiikka pyysi häntä valitsemaan hitauden nopeuden sijaan. Paineessa hän valitsi nopeuden.

Tekniset kontrollit pysäyttävät sen, mihin politiikat eivät pysty

Ainoa suuressa mittakaavassa toimiva korjaus toimii teknisellä tasolla — ei koulutustasolla.

Selainlaajennus voi siepata leikepöytäsisällön ennen kuin se saavuttaa minkään verkkopohjaisen tekoälyn. Kun urakoitsija kopioi hakijoiden nimet ja osoitteet ja liittää ne ChatGPT:hen, laajennus tunnistaa PII:n, anonymisoi sen ja lähettää puhtaan version. Tekoäly näkee [NAME_1] ja [ADDRESS_1] oikeiden arvojen sijaan. Se suorittaa tehtävän silti. Hakijan yksityiset tiedot eivät koskaan saavuta ChatGPT:n palvelimia.

Tämä on automaattista. Se ei pyydä käyttäjää muistamaan mitään.

Cursor- tai GitHub Copilot -kehittäjille MCP Server tarjoaa saman kerroksen. Tekoälyn kontekstiin liitetty koodi kulkee ensin anonymisointimoottorin kautta. Tunnistetiedot ja omistusoikeudelliset tunnisteet muuttuvat tokeneiksi. Tekoäly saa puhtaan syötteen ja tuottaa silti hyödyllisen tulosteen.

Katso, miten tämä vertautuu estämiseen: Estäminen vs. Anonymisointi — Selaimen DLP vertailussa.

Mitä muuttuu teknisillä kontrolleilla

Selainlaajennuksen ollessa käytössä FEMA-urakoitsijan skenaario etenee eri tavoin:

  1. Urakoitsija kopioi hakijatietueita tapausjärjestelmästä
  2. Laajennus tunnistaa PII:n leikepöydältä
  3. Esikatselu-ikkuna näyttää, mitä korvataan
  4. Anonymisoitu versio menee ChatGPT:hen
  5. ChatGPT käsittelee pyynnön ja palauttaa tulokset
  6. Urakoitsija saa tarvitsemansa avun — ei tutkintaa käynnistetä

Politiikkaa ei tarvinnut muuttaa. Koulutusta ei tarvinnut järjestää. Sieppauskerros hoiti sen.

Politiikkakoulutus vähentää riskiä marginaalisesti. Tekniset kontrollit poistavat epäonnistumistavan. FEMA-tapaus oli politiikkaepäonnistuminen. Se olisi ollut tapahtumatonta, jos yksi Chrome-laajennus olisi ollut käyttöönotettuna kyseisen urakoitsijan laitteessa.

Katso myös:

Lähteet

Liittyvät Artikkelit

AI Turvallisuus

AI Coding Assistants Leak Production PII

Unit test fixtures with real customer records. Log files with production data for debugging. GitHub found 39 million secrets leaked in 2024.

AI Turvallisuus

Internal Wiki PII: Confluence Customer Data

Support teams document processes with screenshots of customer accounts. Over 3 years, that's thousands of GDPR data minimization violations in your.

AI Turvallisuus

Screenshot PII: Leaks in Internal Tools

Slack, Teams, Jira, and email regularly receive screenshots containing customer PII. This access-control violation bypasses every DLP tool.

Valmiina suojaamaan tietojasi?

Aloita PII-anonymisointi yli 285 entiteettityypillä 48 kielellä.

Aloita Ilmainen KokeiluKatso Ominaisuudet

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.