När policy möter mänskligt beteende
En statlig underleverantör under tidspress att behandla FEMA:s ansökningar om katastrofhjälp klistrade in namn, adresser, kontaktuppgifter och hälsodata för katastrofdrabbade sökande i ChatGPT för att bearbeta informationen snabbare. Avsikten var inte skadlig — det var ett produktivitetsbeslut fattat under press. Resultatet blev en statlig utredning, offentliggörande och ett dokumenterat incident som illustrerar grundläggande felläget i en policy-only AI-styrning.
77 % av företagsanställda delar känslig arbetsrelaterad information med AI-verktyg minst en gång i veckan trots policies som förbjuder det (eSecurity Planet/Cyberhaven 2025). Siffran 77 % återspeglar inte en arbetsstyrka av policyöverträdare utan verkligheten i hur AI-verktyg har anammats: som produktivitetsverktyg som anställda reflexmässigt når för när de möter tidspress, repetitiva uppgifter eller komplexa analyskrav.
Cyberhavens analys för Q4 2025 fann att 34,8 % av alla ChatGPT-inmatningar innehåller konfidentiella affärsdata. Denna siffra inkluderar anställda som är medvetna om AI-användningspolicies och inte har för avsikt att bryta mot dem — de kategoriserade helt enkelt inte de data de klistrade in som "konfidentiella" i inklistringens ögonblick.
Problemet med policyefterlevnad
AI-användningspolicies möter ett inneboende tillämpningsgap. Till skillnad från åtkomstkontrollpolicies (som kan tillämpas tekniskt via autentisering) eller dataklassificeringspolicies (som kan tillämpas via DLP på e-post-/lagringsnivå), är AI-användningspolicies beroende av mänskligt omdöme vid datainmatningsögonblicket.
Ögonblicket när en anställd bestämmer sig för att klistra in kunddata i ChatGPT är ett bråkdelssekunds beteendebeslut. Den anställde kanske inte minns policyn, kanske har beräknat att effektivitetsvinsten uppväger den upplevda risken, eller kanske genuint inte känner igen data som täckt av policyn. Policyutbildning minskar frekvensen av detta beslut men kan inte eliminera det i stor skala.
FEMA-incidenten demonstrerar arketypen: en underleverantör inför ett stort antal ansökningar, en deadline och tillgång till ett kraftfullt sammanfattningsverktyg. Policyefterlevnad krävde att man valde manuell behandling framför AI-assistans. Under tidspress vann verktyget.
Tekniska kontroller på applikationsnivå
Den enda styrningsmetoden som adresserar detta felläge verkar på den tekniska nivån snarare än policynivån. Chrome-tillägget fångar upp urklippsinnehåll innan det når något webbaserat AI-gränssnitt — ChatGPT, Gemini, Claude.ai, Perplexity eller andra. Avlyssningen är automatisk; den är inte beroende av att användaren minns att tillämpa en policy.
När FEMA-underleverantören kopierar sökandens namn och adresser från ärendehanteringssystemet och klistrar in i ChatGPT, identifierar tillägget PII i urklippsinnehållet, anonymiserar det och skickar in den anonymiserade versionen. Underleverantören ser en förhandsgranskningsmodal som visar vad som kommer att ersättas innan inskickning. AI:n tar emot avidentifierade data och kan fortfarande utföra sammanfattningsuppgiften. Sökandens namn, adress och hälsodata når aldrig ChatGPT:s servrar.
För organisationer vars AI-styrningsfrågor centreras kring kodningsverktyg (Cursor, GitHub Copilot) ger MCP Server motsvarande kontroll på applikationsnivå. Kod som klistras in i AI-modellkontexten fångas upp, autentiseringsuppgifter och egna identifierare ersätts med tokens, och AI:n tar emot den anonymiserade versionen. Båda kanalerna — webbläsarbaserad AI och IDE-baserad AI — kan skyddas via tekniska kontroller som verkar oberoende av användarbeteende.
FEMA-underleverantörens scenario hade haft ett annat utfall med tekniska kontroller på plats. Underleverantören hade kunnat behandla ansökningar effektivt; sökandedata hade aldrig nått ChatGPT; utredningen hade inte utlösts. Policyutbildning förhindrade inte incidenten. Ett tekniskt avlyssningsskikt hade gjort det.
Källor: