By · Last updated 2026-04-15

Tillbaka till BloggenAI-säkerhet

Varför policy misslyckas med att stoppa ChatGPT-PII-läckor

77 % av AI-användare i företag kopierar och klistrar in data i chatbot-frågor. Nästan 40 % av uppladdade filer innehåller PII- eller PCI-data. Uppdatering av HIPAA Security Rule föreslagen.

April 15, 20268 min läsning
ChatGPT PII leak preventionChrome extension DLPenterprise AI policytechnical controls browsercopy-paste PII protection

Beteendeproblemet med kopiera-klistra in

77 % av AI-användare i företag kopierar och klistrar in data i chatbot-frågor. Detta beteendemönster är inte begränsat till en icke-efterlevande minoritet — det är det dominerande interaktionssättet för företags AI-verktygsanvändning. När anställda stöter på ett komplext dokument, ett kundärende eller en analytisk uppgift är det naturliga arbetsflödet: kopiera det relevanta innehållet, klistra in det i AI-verktyget, få ett svar.

Detta arbetsflöde skiljer inte mellan innehåll som innehåller personuppgifter och innehåll som inte gör det. Kopiera-klistra in-åtgärden föregår klassificeringsbeslutet. När den anställde har klistrat in innehållet och läser AI:ns svar har överföringen redan skett. Policyutbildning tillämpas i klassificeringsögonblicket — "borde jag klistra in detta?" — men det blixtsnabba beslutsfattandet innebär att policyminnet försämras under kognitiv belastning, tidspress och vanemässigt beteende.

Cyberhaven-forskning fann att nästan 40 % av filer som laddas upp till AI-verktyg innehåller PII- eller PCI-data. Siffran inkluderar anställda som är fullt medvetna om AI-användningspolicyer: de laddar upp filen de behöver arbeta med, som råkar innehålla kunddata. Policyöverträdelsen är oavsiktlig i förhållande till en legitim uppgift.

Varför utbildning misslyckas i skala

Policyutbildningsprogram möter samma strukturella begränsning i alla dataskyddssammanhang: de försöker modifiera djupt inrotade beteendemönster genom periodiska utbildningsinsatser. Intervallen mellan utbildningssessioner (typiskt årsvis) överstiger tidskonstanten för beteendeförfall. Anställda som fick grundlig utbildning om AI-datahantering i kvartal 1 opererar primärt på vana under kvartal 4.

HIPAA Security Rule-uppdateringen som föreslogs i mars 2025 — som kräver årliga krypteringsrevisioner — speglar den regulatoriska insikten att policyefterlevnad kräver periodisk verifiering av tekniska kontroller, inte bara utbildningsprogram. Revisionskravet antyder att tillsynsmyndigheter förväntar sig att tekniska kontroller ska vara den primära mekanismen och utbildning den kompletterande mekanismen.

För AI-dataskydd specifikt är beteendet svårare att förhindra via utbildning än vanliga datahanteringsbeteenden eftersom det sker i ett nytt sammanhang (AI-verktyg fanns inte när de flesta företagsdatahanteringsvanor formades) och eftersom läckan inte producerar någon omedelbar negativ konsekvens som är synlig för den anställde.

Chrome Extension-avlyssningsarkitekturen

Chrome Extension verkar på urklippslagret — innan det inklistrade innehållet når AI-verktygets inmatningsfält. Avlyssningen sker arkitekturellt innan användarens beslut att skicka: den anställde kopierar innehåll från sin arbetsapplikation, byter till ChatGPT-fliken och klistrar in. Tillägget detekterar PII i urklippsinnehållet i inklistringsögonblicket, innan innehållet visas i inmatningsfältet.

En förhandsgranskningsmodal visar den anställde exakt vad som kommer att anonymiseras: "Kundnamn 'Maria Schmidt' → '[PERSON_1]'; E-post 'maria.schmidt@company.de' → '[EMAIL_1]'." Den anställde kan fortsätta med den anonymiserade versionen eller avbryta inklistringsoperationen om den specifika ersättningen är oacceptabel.

Förhandsgranskningsmodalen tjänar två syften. Först ger den transparens — anställda förstår vad verktyget gör, vilket bygger lämpligt förtroende och minskar uppfattningen att integritetskontroller är övervakning. För det andra gör det anonymiseringsbeslutet explicit snarare än tyst: den anställde bekräftar varje anonymiseringsoperation, vilket skapar ett psykologiskt ögonblick där klassificeringsbeslutet (är detta PII?) fattas av en människa snarare än automatiseras bort.

För ett europeiskt e-handelsföretags kundsupportteam: handläggare utformar svar med ChatGPT och klistrar in kundkorrespondens som innehåller namn, ordernummer och adresser. Chrome Extension fångar upp varje inklistring, anonymiserar personuppgifterna, och handläggaren skickar den anonymiserade prompten. ChatGPT:s svar refererar till de anonymiserade tokenerna; handläggaren kan läsa AI:ns förslag och integrera dem i det faktiska kundsvaret. GDPR artikel 5:s dataminimeringsprincip uppfylls; kvalitetsförbättringen av support via AI-assistans bibehålls.

Se även:

Källor:

Redo att skydda din data?

Börja anonymisera PII med 285+ entitetstyper på 48 språk.

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.