Takaisin BlogiinAI Turvallisuus

Miksi politiikkakoulutus epäonnistuu estämään...

77% yritysten AI-käyttäjistä kopioi ja liittää tietoja chatbot-kyselyihin. Lähes 40% ladatuista tiedostoista sisältää PII- tai PCI-tietoja.

April 15, 20268 min lukuaika
ChatGPT PII leak preventionChrome extension DLPenterprise AI policytechnical controls browsercopy-paste PII protection

Kopioi-liitä käyttäytymisongelma

77% yritysten AI-käyttäjistä kopioi ja liittää tietoja chatbot-kyselyihin. Tämä käyttäytymismalli ei rajoitu vain epäyhteensopivaan vähemmistöön — se on hallitseva vuorovaikutustapa yritysten AI-työkalujen käytössä. Kun työntekijät kohtaavat monimutkaisen asiakirjan, asiakaskysymyksen tai analyyttisen tehtävän, luonnollinen työnkulku on: kopioi relevantti sisältö, liitä se AI-työkaluun, saa vastaus.

Tämä työnkulku ei erota henkilödataa sisältävää sisältöä ja sisältöä, joka ei sisällä sitä. Kopioi-liitä-toiminto tapahtuu ennen luokittelupäätöstä. Siihen mennessä, kun työntekijä on liittänyt sisällön ja lukee AI:n vastausta, siirto on jo tapahtunut. Politiikkakoulutusta sovelletaan luokittelun hetkellä — "pitäisikö minun liittää tämä?" — mutta päätöksen hetkellinen luonne tarkoittaa, että politiikan muistaminen heikkenee kognitiivisen kuormituksen, aikapaineen ja tottumuskäyttäytymisen alla.

Cyberhavenin tutkimus havaitsi, että lähes 40% ladatuista tiedostoista AI-työkaluille sisältää PII- tai PCI-tietoja. Lukuun sisältyy työntekijöitä, jotka ovat täysin tietoisia AI-käyttöpolitiikoista: he lataavat tiedoston, jota heidän tarvitsee työstää, ja joka sattuu sisältämään asiakastietoja. Politiikan rikkominen on sattumanvaraista laillisessa tehtävässä.

Miksi koulutus epäonnistuu suuressa mittakaavassa

Politiikkakoulutusohjelmat kohtaavat saman rakenteellisen rajoituksen kaikissa tietosuojayhteyksissä: ne yrittävät muuttaa syvälle juurtuneita käyttäytymismalleja kausittaisilla koulutusinterventioilla. Koulutussessioiden väli (yleensä vuosittain) ylittää käyttäytymisen heikkenemisen aikavälin. Työntekijät, jotka saivat perusteellista koulutusta AI-tietojen käsittelystä Q1:ssä, toimivat pääasiassa tottumuksen varassa Q4:ssä.

Maaliskuussa 2025 ehdotettu HIPAA-turvallisuusasetuksen päivitys — joka vaatii vuosittaisia salausauditointeja — heijastaa sääntelytietoisuutta siitä, että politiikan noudattaminen vaatii teknisten kontrollien kausittaista vahvistamista, ei vain koulutusohjelmia. Auditointivaatimus tarkoittaa, että sääntelijät odottavat teknisten kontrollien olevan ensisijainen mekanismi ja koulutuksen toissijainen mekanismi.

Erityisesti AI-tietovuotojen osalta käyttäytymisen estäminen koulutuksen avulla on vaikeampaa kuin standardien tietojen käsittelykäyttäytymisissä, koska se tapahtuu uudessa kontekstissa (AI-työkalut eivät olleet olemassa, kun suurin osa yritysten tietojen käsittelytavoista muodostui) ja koska vuoto ei tuota työntekijälle näkyvää välitöntä kielteistä seurausta.

Chrome-laajennuksen sieppausrakenne

Chrome-laajennus toimii leikepöytätasolla — ennen kuin liitetty sisältö saavuttaa AI-työkalun syöttökentän. Sieppaus tapahtuu arkkitehtuurisesti ennen käyttäjän päätöstä lähettää: työntekijä kopioi sisältöä työohjelmastaan, vaihtaa ChatGPT-välilehteen ja liittää. Laajennus havaitsee PII:t leikepöydän sisällössä liittämisen hetkellä, ennen kuin sisältö ilmestyy syöttökenttään.

Esikatselumoduuli näyttää työntekijälle tarkalleen, mitä anonymisoidaan: "Asiakkaan nimi 'Maria Schmidt' → '[PERSON_1]'; Sähköposti 'maria.schmidt@company.de' → '[EMAIL_1]'." Työntekijä voi jatkaa anonymisoidun version kanssa tai peruuttaa liittämisen, jos erityinen korvaus on hyväksymätön.

Esikatselumoduuli palvelee kahta tarkoitusta. Ensinnäkin se tarjoaa läpinäkyvyyttä — työntekijät ymmärtävät, mitä työkalu tekee, mikä luo asianmukaista luottamusta ja vähentää käsitystä siitä, että tietosuojakontrollit ovat valvontaa. Toiseksi se tekee anonymisointipäätöksestä ilmeisen eikä hiljaisen: työntekijä vahvistaa jokaisen anonymisointitoiminnan, luoden psykologisen hetken, jolloin luokittelupäätös (onko tämä PII?) tehdään ihmisen eikä automaattisesti.

Eurooppalaisen verkkokaupan asiakastukitiimille: agentit laativat vastauksia käyttäen ChatGPT:tä, liittäen asiakaskirjeenvaihtoa, joka sisältää nimiä, tilausnumeroita ja osoitteita. Chrome-laajennus sieppaa jokaisen liittämisen, anonymisoi henkilötiedot ja agentti lähettää anonymisoidun kehotteen. ChatGPT:n vastaukset viittaavat anonymisoituihin tokeneihin; agentti voi lukea AI:n ehdotuksia ja sisällyttää niitä varsinaiseen asiakasvastaukseen. GDPR:n artiklan 5 tietojen minimointi täyttyy; AI-avustuksen tuottama tukilaatu paranee.

Valmiina suojaamaan tietojasi?

Aloita PII-anonymisointi yli 285 entiteettityypillä 48 kielellä.