Vältimine vs. Avastamine: Miks reaalajaline isikuandmete anonüümsus on ainuke tõhus kaitse vastu AI andmete lekked
Samsung ChatGPT juhtumit märts 2023 näidatakse fundamentaal piirangus post-hoc turvalisuse juhtimise: Samsung insener kleepis omavaldust lähtekoodina ChatGPT enne mis tahes jälgimise või vältimine süsteem võis interveneerida. Kood lahkus Samsung kontrollus ühe tipuga.
Omavalduse jälgimine, lõpp DLP ja pärast-fakti anonüümsus on avastamise tööriistadel. Nad ütlevad sulle mida juhtus pärast seda juhtus. AI andmete leketest, avastamine pärast saatmine on liiga hiline. Andmed juba töödeldes AI mudeligus, võimalikult kaasarvatud koolituse andmete, ja ei ole enam teie kontrolli.
Probleemi skaala
2025 Cyberhaven uuringus analüüsiti ettevõtte AI tööriistade kasutamine tuhandetes organisatsioonides:
- 11% kõigist ChatGPT viipeid sisaldavad konfidentsiaalset või isikutandmeid
- Keskmine töötaja suhtleb AI tööriistadega 14 korda päevas
- Kõrge kasutuse töötajad (juristid, analüütikud, klientide teenuse): 30-50 AI koostööd päevas
- 11% sisaldab konfidentsiaalse andmete: 3-5 konfidentsiaalse saatmine per kõrge kasutuse töötaja päevas
500 kõrge kasutuse töötajad, see tähendab 1500-2500 konfidentsiaalse andmete saatmisi välisesse AI süsteemid päevas. Igal saatmisel on potentsiaalse GDPR artikli 83 rikkumise, kui isikuandmeid kaasarvatud.
Mida loetakse konfidentsiaalse või isikutandmeid AI viipedes:
- Kliendi nimed, aadressid, telefoninumbrid
- Sisemised projekti nimed ja rahaline andmete
- Lähtekoodid ja arhitektuuri diagrammid
- Lepingud termini ja sisemine hindamise
- Tervishoiu kirjed ja patsiendi ajalugu
- Õiguste teavet ja sisemised õigusstrateegia
Avastamise piiritus
Endpoint DLP tööriistaled saavad ühendamist lobu andmetele, mis ei lahku süsteemist:
DLP tööriista avastamise käivitus:
- Töötaja taistahtlikult tipib "Klient John Smith, sünni kuupäev 1985-05-12" ChatGPT-sse
- DLP tööriista registreerimise ja logid (mitu tundi pärast)
- DLP tööriista kasutab tööst või märgib süsteemi haldurile
- Haldur käsitlevad (järgmine päev)
- Andmed on juba OpenAI serverites ja potentsiaalse koolituse andmete
Avastamise hilistus riskide:
- Väljastuspäevad: 6-24 tundi, mille ajal andmed on välises süsteemi
- Käsitlevamise viivituus: halduri peab uurima ja kehtestada
- Andmete kloonimine risk: juhuslik "Share" nupp edaspidi on juba jaganud andmete kollegiga, enne DLP andis märku
Reaalajaline vältimine lahendus
Prevention reaalajasel peatab andmete läbkülutus enne saatmista:
Arhitektuur:
- Töötaja taistahtlikult tipib kliendi nime Chrome'i laiendus
- Laiendus tuvastavad ja kustutatakse "Klient John Smith" → "Klient [CLIENT_NAME]"
- Töötaja näeb "Klient [CLIENT_NAME], sünni kuupäev [DATE]" enne ChatGPT viibi
- Anonüümsus andmeted saadetakse ChatGPT-sse
- ChatGPT vastus kuvatkse anonüümsus
- Laiendus de-anonüümsus vastus, kasutades seansi märgi mappingu
- Töötaja näeb tegelikud andmete, kuid ChatGPT ei näe
Tõhususe:
- Reaalajaline: samalaadse käigus, mitte tundide hilisemalt
- Automaaatne: töötaja ei pea käsitsi andmete redigeerida
- Revesiibel: andmete de-anonüümsust võimalik seansis (märgi mappingu alus)
Reaalajaline implementeerimine
Chrome'i laiendus anonüümsus andmete AI sisse:
Samm 1: Tuvastamine
const anonymizer = new PII Anonymizer();
const input = document.querySelector('textarea[placeholder]').value;
const {anonymized, mappings} = anonymizer.process(input);
Samm 2: Saatmine Anonüümsus andmete saadetakse AI mudeligust, jättes tõesed andmeted browser mälu.
Samm 3: De-anonüümsus vastus
const response = await chatGPT.process(anonymized);
const deanonymized = anonymizer.deanonymize(response, mappings);
Samm 4: Kuva Töötaja näeb de-anonüümsus vastus.
GDPR nõuded ja reaalajaline vältimine
GDPR artikkel 32 nõuab "asjakohaseid tehnilisi kaitseid". Reaalajaline anonüümsus täidab selle nõude:
- Andmete teisenemine: Anonüümsus andmeid saadetakse välisele AI mudeligule, mitte tegelikud andmed
- Juurdepääsu juhtimine: AI mudel ei oma juurdepääsu tegelikule andmetele
- Auditeerimise jälgimine: Seansi märgi mappingu salvestatakse, näidates anonüümsus andmete kasutatud
Juhtumete näited, kus reaalajaline vältimine on juba teostatud:
- anonym.legal Chrome'i laiendus (AI tööriistade jaoks)
- anonym.legal Word Lisa (Office dokumentide jaoks)
- anonym.legal Desktop rakendus (failide jaoks)
Allikad: