Daudzformātu problēma PII atbilstībā
Atjaunināts 2026. gadam
Jautājiet atbilstības virsnieks, kādus formātus viņi anonimizē DSAR atbildēm. Saraksts vienmēr ir vienāds: Word līgumi, PDF rēķini, Excel klientu dati, CSV eksporti un JSON žurnāli.
Tad jautājiet, kādus rīkus viņi izmanto. Atbilde parasti ir trīs līdz pieci. Katram rīkam ir atšķirīgs entītiju pārklājums. Katram ir atšķirīgi iestatījumi. Katrs rada atšķirīgu audita žurnālu.
Tas ir formātu sadrumstalotība. Tā rada reālas atbilstības nepilnības.
Kāpēc rodas sadrumstalotība
Neviens rīks nav apstrādājis katru ražošanas formātu vienā un tajā pašā kvalitātē. Specializēti rīki radās katram formātam. Viens PDF failiem. Viens izklājlapām. Makro CSV failiem. Katram ir savs entītiju saraksts. Neviens nekopīgo audita pēdu.
Rezultāts ir paredzams. DSAR atbilde aptver vairākus failu veidus. Vairāki rīki to apstrādā. Katrs rīks izmanto atšķirīgus standartus. Entītija X tiek notverta PDF failā, bet pazaudēta Excel failā. DPA auditi atklāj šo neatbilstību.
Formātam raksturīgās tehniskās problēmas
Katrs formāts rada savas noteikšanas problēmas.
PDF faili ir divu veidu: vietējais teksts un attēlbāzēti skenēti eksemplāri. Skenēti PDF faili vispirms ir nepieciešams OCR. OCR ievieš kļūdas. Vietējie PDF faili bieži glabā katru vārdu kā atsevišķu teksta objektu. Tas saboj entītiju noteikšanu pāri vārdu robežām. Vairākkolonnu izkārtojumiem nepieciešama lasīšanas secības atjaunošana pirms analīzes sākšanas.
Word (DOCX)
DOCX faili glabā tekstu XML formātā. Bet arī galvenēs, kājenēs, komentāros, izsekotajās izmaiņās un teksta lodziņos. Vēstuļpapīra adrese lapas galvenē ir PII. Lielākā daļa rīku to palaiž garām. Izsekotās izmaiņas var glabāt dzēstu PII. Tas teksts ir neredzams renderētā skatā, bet atrodams failā.
Excel (XLSX)
Excel glabā PII jebkurā šūnā simtiem kolonnu un tūkstošiem rindu. Kolonnu galvenes, piemēram, "SSN" vai "E-pasts", sniedz kontekstu, ko NER modeļi palaiž garām no neapstrādāta teksta. Datumi un SSN bieži tiek glabāti kā cipari. Brīvā teksta lauki, piemēram, "vadītāja piezīmes", glabā nestrukturētu PII. Kolonnbāzēti rīki izlaida šos laukus.
CSV
CSV trūkst Excel struktūras. Brīvā teksta lauki "piezīmju" kolonnās jaukPII ar citu saturu. Kodēšanas problēmas — UTF-8 pret Latin-1 — izraisa neveiksmes ar ne-ASCII rakstzīmēm Eiropas vārdos un adresēs.
JSON
Ligzdots JSON paslēpj PII dziļi: user.address.street.line1. Masīvi nepieciešama iterācija. Viens un tas pats lauka nosaukums dažādos objektos var glabāt dažādus datu tipus. Labai noteikšanai nepieciešama shēmas apzinātība un satura analīze kopā.
Neatbilstība ir juridisks risks
Šeit ir konkrēts GDPR DSAR scenārijs.
Datu subjekts pieprasa visus par viņu glabātos personas datus. Atbilstības komanda atrod šos failus:
- 3 Word dokumenti (līgumi, korespondence).
- 2 PDF dokumenti (rēķini, atbalsta protokoli).
- 1 Excel izklājlapa (klientu konta dati).
- 1 CSV eksports (sistēmas piekļuves žurnāli).
Viņi izmanto Rīku A PDF failiem. Rīku B Word failiem. Makro XLSX failiem. Manuāla pārskatīšana CSV failiem. Katram rīkam ir atšķirīgs entītiju pārklājums.
Datu subjekts saņem anonimizēto pakotni. Excel "vadītāja piezīmju" kolonna netika apstrādāta. Word vēstuļpapīra adrese tika palaista garām. Abi satur PII, ko datu subjekts lūdza anonimizēt.
Saskaņā ar GDPR 15. pantu (piekļuves tiesības) vai 17. pantu (tiesības tikt dzēstam), tas ir nepilnīga DSAR atbilde. Ja datu subjekts vai regulators atklāj nepilnību, neatbilstīgie rīki ir dokumentēts veicinošais faktors.
Gadijums par konsekventu standartu
Spēcīga DSAR atbilstība ne tikai uzskaita, kādus PII veidus anonimizēt. Tai nepieciešams viens un tas pats standarts visā atbildes kopas formātu klāstā.
Tas nozīmē:
- Vienādi entītiju veidi pārbaudīti Word, PDF, Excel, CSV un JSON.
- Vienādi ticamības sliekšņi piemēroti visiem failiem.
- Vienādi aizstāšanas tokeni izmantoti. Ja "Jānis Bērziņš" parādās trīs dokumentos, viens tokens aizstāj vārdu visos trīs.
- Viens audita pēdas lauks aptver visus formātus.
Vienas platformas risinājums to padara iespējamu, izmantojot sākotnējās iestatnes. Viena "DSAR ES personu" sākotnējā iestatne pārbauda vienus un tos pašus 32 entītiju veidus. Tā darbojas uz PDF līgumu, Excel ierakstu un CSV žurnālu. Viens dzinējs apstrādā visus trīs.
Plašāku informāciju par to, kā sākotnējās iestatnes darbojas partijas uzdevumos, skatiet mūsu ceļvedi par GDPR DSAR partijas apstrādi apjomā.
Dažāda formātu kopu partijas apstrāde
DSAR atbilstība apjomā nozīmē jaukta formāta mapju apstrādi kā vienību.
Ievade: Mape ar 15 failiem — PDF, DOCX, XLSX, CSV — kas pārstāv visus datus, kas glabāti par vienu datu subjektu.
Apstrādes soļi:
- Noteikt katra faila formātu.
- Pielietot pareizo parsētāju. PDF teksta izvilkšana. DOCX XML parsēšana. XLSX šūnu iterācija. CSV lauku parsēšana.
- Palaist vienu un to pašu NLP cauruļvadu uz izvilkta teksta no visiem failiem.
- Pielietot vienu un to pašu sākotnējo iestatni katram failam partijā.
- Izmantot kopīgu tokenu krātuvi. Viens un tas pats vārds saņem vienu un to pašu aizstāšanas tokenu visos 15 failos.
Izvade:
- Anonimizētas visu 15 failu versijas to oriģinālajos formātos.
- Viens starpformātu audita pārskats. Tas rāda katru atklāto entītiju, tās avota dokumentu, ticamības rādītāju un veikto darbību.
Audita pārskats ir atbilstības dokuments. Tas pierāda, ka visi 15 faili tika apstrādāti ar vienu un to pašu standartu. DPA auditam tas ir daudz stiprāks par sadrumstalotiem rīkiem.
Saistīts: reāllaika PII novēršana AI datu noplūdēm.
Vienotu cauruļvadu zināmie ierobežojumi
Formātu apvienošana novērš sadrumstalotību. Bet tā ievieš savus ierobežojumus.
Konvertēšanas precizitāte: DOCX konvertēšana uz apstrādes formātu un atpakaļ var zaudēt izmaiņu izsekošanas vēsturi vai sabojāt iegultos objektus. Juridiskiem dokumentiem nepieciešama papildu validācija pēc apstrādes.
Uzturēšana katram formātam: Entītiju atpazinēji CSV failiem atšķiras no tiem, ko izmanto skenētajām veidlapām. "Vienotajam" cauruļvadam joprojām nepieciešama priekšapstrāde katram formātam. Tā priekšapstrāde nepieciešami atjauninājumi, kad formāti attīstās.
Precizitāte retāk sastopamiem formātiem: Lielākā daļa NLP modeļu apmācās uz tīmekļa tekstu un parastajiem biroja dokumentiem. Mantotie formāti — veci EDI faili, pielāgotas XML shēmas, CAD metadati — bieži vien dod sliktāku precizitāti nekā salīdzinājumi liecina.
Neatjaunojami formāti: Daži PDF veidi un tikai attēla faili nevar tikt anonimizēti uz vietas. Tiem nepieciešama vizuālā redakcija. Vizuālā redakcija iznīcina mašīnlasāmo struktūru. Ja pēc anonimizācijas nepieciešama meklēšana vai indeksēšana, tas var nebūt pietiekami.
Praktisks DSAR darbplūsmas apraksts
Atbilstības komandām ar regulāru DSAR apjomu:
-
Apkopojiet visus dokumentus par datu subjektu
-
Izveidojiet DSAR partiju — ievelciet visus failus neatkarīgi no formāta
-
Atlasiet sākotnējo iestatni "DSAR ES personu"
-
Palaidiet partiju
-
Lejupielādējiet anonimizētos rezultātus un konsolidēto audita pārskatu
-
Pārbaudiet divus vai trīs izvades dokumentus
-
Sagatavojiet anonimizētos dokumentus datu subjekta atbildei
-
Pievienojiet audita pārskatu DSAR lietas ierakstam
-
solis (manuālā vākšana) joprojām ir galvenās laika izmaksas. 2.–8. solis aizņem mazāk nekā 10 minūtes tipiskā partijā. Audita pārskats no 5. soļa apmierina GDPR atbildības principu.
anonym.legal apstrādā DOCX, PDF, XLSX, CSV un JSON. Katrs fails izmanto vienu un to pašu sākotnējo iestatni. Viens audita pārskats aptver partiju.