Vecjezicno zaznavanje PII za GDPR
Posodobljeno za leto 2026
Skrita vrzel GDPR
GDPR nima jezikovnih preferenc. Clen 4(1) definira "osebne podatke" brez navajanja jezika, v katerem se pojavljajo. Nemški Steuer-ID je enako zasciten kot americanka stevilka socialnega zavarovanja. Francoski NIR je enako reguliran kot britanska stevilka nacionalnega zavarovanja.
Vecina orodij za zaznavanje PII je bila zgrajena samo za anglescino.
Raziskava ACL 2024 je ugotovila, da hibridna orodja NLP dosegajo vrednosti F1 0,60-0,83 za evropske lokale. Orodja, ki so samo za anglescino, dosegajo blizu nic za neangles ke formate nacionalnih ID-jev. Vrzel je ocitna. Orodje morda ujame 95 % anglescnega PII. Toda v isti datoteki zamudi 40-60 % nemskega, francoskega, poljskega ali nizozemskega PII. To je resen problem. Podjetja so izpostavljena.
To je prava vrzel GDPR. Prizadene skoraj vsako globalno podjetje, ki uporablja anglescino-centralna orodja za redakcijo. Oglejte si nas vodic GDPR za vec.
Zakaj je PII specificen za lokale
Zaznavanje PII ima dva dela.
Prvi je skeniranje na osnovi vzorcev. Pokriva strukturirane ID-je, kot so davcne stevilke in telefonski formati.
Drugi je skeniranje na osnovi NER. Pokriva kontekstualne entitete, kot so imena in naslovi.
Oba dela sta odvisna od lokalnega okolja.
Strukturirani ID-ji se razlikujejo po drzavah
| Drzava | Davcni ID | Format | Validacija |
|---|---|---|---|
| Nemcija | Steuer-ID | 11 stevk | Modulo-11 |
| Francija | NIR | 15 stevk + 2-mestni kljuc | INSEE |
| Svedska | Personnummer | 10 stevk | Luhn |
| Poljska | PESEL | 11 stevk | Modulo-10 |
| Nizozemska | BSN | 9 stevk | Elfproef |
| Spanija | DNI/NIE | 8 stevk + crka | Modulo-23 |
| Italija | Codice Fiscale | 16 znakov | Lastna kontrolna vsota |
Angleska regex za SSN (NNN-NN-NNNN) ne bo ujela nobenega od teh formatov. Vsak potrebuje svojo regex. Vsak potrebuje tudi svojo logiko kontrolne vsote.
NER potrebuje domace modele
Nemska imena se razlikujejo od angleskih. "Hans-Dieter Muller" je jasno domacemu nemskemu modelu. Anglescini-usposobljen model pogosto zamudi taka imena.
Lazno-pozitivni rezultati so prav tako problem. Sledilnik tezav Microsoft Presidio kaze, da se nemske besede napacno razvrstijo kot angleska PII. Beseda "Null" (nemsko za "nic") je en primer. Sproziga lazne zadetke imen v anglesko-usposobljenih modelih. V produkcijski rabi se stopnje napak povecajo na 3 lazno-pozitivne na pravo entiteto (Alvaro et al., 2024).
Regulatorno tveganje
EU organi za varstvo podatkov se zavedajo tega problema. Veci nacionalnih organov DPA je izdalo smernice.
Nemski BfDI: Clen 5(1)(f) GDPR velja za vse zapise. Pokriva ne-angleske podatke, ki jih obdelujejo orodja tretjih strani.
Francoski CNIL: Letno porocilo CNIL za leto 2024 je izrazilo zaskrbljenost. Opozorilo je na orodja AI, ki obravnavajo francoske zapise brez skeniranja PII v francoskem lokalu.
EU DPA na splosno: Clen 25 GDPR (Zasebnost po nacrtovanju) zahteva varovala, primerna za dejansko obdelane zapise. To vkljucuje ne-angleske PII v globalnih uvedbah.
Tveganje je jasno. Firma moze pokazati 95 % zaznavanje PII na angleski vsebini pri reviziji GDPR. Ce pa obdeluje tudi nemske, francoske in poljske zapise z istim orodjem, se bodo pojavile vrzeli. Revizorji opazijo. Kazni lahko sledijo. Oglejte si naso stran o varovalih za naso resitev.
Trostopenjska zasnova
Raziskave in produkcijska uporaba se strinjajo o trostopenjski hibridni zasnovi kot najboljsem pristopu.
Stopnja 1: Domaci modeli spaCy
spaCy zagotavlja usposobljene modele za 25 lokalnih okolij. Ta vkljucujejo nemscino, francos cino, spanscino, portugals cino, italijansino, nizozemscino, ruscino, kitajscino, japonscino, korejscino in poljs cino. Vsak model se uci na domacih besedilih. Ucijo se sintaksne in entitetne vzorce vsakega lokalnega okolja. To je pomembno. Domace ucenje pomeni boljsi priklic in manj lazno-pozitivnih.
Za nemscino: de_core_news_lg obravnava sestavljene samostalnike in nemske vzorce imen.
Za francos cino: fr_core_news_lg obravnava francoske entitete, nazive, zemljepisna imena in organizacije.
Domaci modeli premagajo medjezikovne modele za skeniranje imen v visoko-virovnih lokalnih okoljih.
Stopnja 2: Stanza za vec lokalnih okolij
Stanzina knjiznica Stanford pokriva lokalna okolja, ki niso v spaCy. Ta vkljucujejo hrnasino, slovenscino in ukrajinscino. To dodaja domet za EU-govorce, ki jih spaCy ne streze. Stanza je brezplacna in odprtokodna. Dobro se integrira z ostalo obutkvijo.
Stopnja 3: XLM-RoBERTa za sirokoSEG doseg
Za lokalna okolja, kjer spaCy in Stanza nimata modelov NER, XLM-RoBERTa zapolni vrzel. Uci se na besedilu Common Crawl v 100 lokalnih okoljih. Dosega 91,4-odstotni medjezikovni F1 za zaznavanje PII (HuggingFace 2024). Dobro obravnava preklop kode. To je kljucna funkcija. Pomembna je, ko en dokument vsebuje besedilo v vecih lokalnih okoljih hkrati.
Oglejte si naso dokumentacijo sistema znakov za prikaz skaliranja klicev API pri vecjezikovnih kolicinah.
Vrste entitet specificnih za lokalna okolja
Sami modeli ne zadostujejo. Usklajenost z GDPR zahteva tudi vrsto entitet za posamezne ID-je posameznih drzav.
Nacionalni ID-ji EU po drzavah:
- DE: Steuer-ID, Sozialversicherungsnummer, Personalausweisnummer
- FR: NIR, SIREN, SIRET
- PL: PESEL, NIP, REGON
- NL: BSN
- SE: Personnummer, Samordningsnummer
- ES: DNI, NIE, NIF, CIF
- IT: Codice Fiscale, Partita IVA
Telefonski formati: Vsaka EU drzava ima edinstvene predponske strukture. +49, +33 in +48 vsak potrebuje svojo logiko validacije.
Formati naslovov: Postanske stevilke se mocno razlikujejo. Nemski PLZ uporablja 5 stevk. Francoski kodi uporabljajo 5 stevk (razpon 01-99). Britanske postanske stevilke so alfanumericne. Spanske kode uporabljajo 5 stevk (01000-52999).
Primer iz resnicnega sveta: svicarska farmacevtska firma
Svicarska firma obdeluje pogodbe o zaposlitvi. Vsaka pogodba mesа nemscino, francos cino in anglescino. Svicarska ima stiri uradne jezike. Njihovo orodje je bilo nastavljeno samo za nemscino. Zamudilo je vse PII v francoskih odsekih.
Pogodba za zaposlenca iz Zeneve je vsebovala francoski AVS stevilko (13 stevk), svicarski bancni IBAN in ime v francoskem formatu. Orodje, ki deluje samo z nemscino, je zamudilo ime v francoskem formatu. Ni naslo francoske stevilke AVS. IBAN je zaznan le delno.
Trostopenjski pristop obdela celoten dokument. Zaznava lokalno okolje na segment besedila. Za vsak del uporabi pravi model NER. Vsak nacionalni ID validira s pravilno logiko drzave.
Dokumenti z mesanimi lokalnimi okolji
Najtezji primer je mesanje lokalnih okolij znotraj dokumenta. Primeri:
- Anglesca pogodba nemskega podjetja z nemskimi evidencami zaposlenih (imena, davcne ID-je)
- Francoski obrazec za soglasje GDPR z anglescino-odlomkom o zasebnosti
- Klepet, kjer se agent odziva v anglescini in stranka pise v arabscini
XLM-RoBERTa to obravnava domace. Ne potrebuje eksplicitnih zastavic lokalnih okolij. Obdeluje mesana-lokalna besedila brez predhodne segmentacije. To prihrani cas. Prav tako se izogiba napakam iz napacnih delitev.
Za produkcijsko uporabo kombinacija samodejnega zaznavanja lokalnega okolja (na ravni stavka) z sklepanjem XLM-RoBERTa zagotavlja robustno obravnavo dokumentov z mesanimi lokalnimi okolji.
Prakticni koraki
Revidirajte doseg vasega orodja. Prositezbijte prodajalca redakcije za vrednosti F1 za vasa specificna lokalna okolja. "Podpira 20 jezikov" pogosto pomeni, da orodje besedilo najprej usmerja prek strojnega prevajanja. To ni domace skeniranje.
Preslikajte zapise na lokalna okolja. Naredite inventar zapisov, ki vkljucuje porazdelitev lokalnih okolij. Globalno podjetje s 70 % anglescine, 20 % nemscine in 10 % francos cine se soci z razlicnimi tveganji. Tisto s 95 % anglescine je v drugacnem polozaju.
Testirajte z vzorci nacionalnih ID-jev. Zgradite testni nabor z 10 primeri nacionalnih ID-jev v vasem poslovanju -- Steuer-ID, NIR, PESEL, BSN in drugimi. Preverite stopnje zaznavanja. To je hitrejse kot polni test F1.
Preglejte svoje DPIA. Preverite, ali je obseg lokalnih okolij vkljucen. Nepopolna DPIA, ki predpostavlja samo-angleske zapise, bo morda potrebna posodobitev. Ukrepajte zdaj. Ne cakajte, da vrzel najde revizija.
Za polne definicije vrst entitet oglejte si referenco entitet in pogosta vprasanja. Za narocnine in stopnje klicev API obisc ite cene.
Sistem za zaznavanje PII anonym.legal uporablja trostopenjski vecjezicni pristop. Pokriva 25 visoko-virovnih lokalnih okolij prek domacih modelov spaCy. Stanza dodaja dodaten doseg lokalnih okolij. Medjezikovni transformerji XLM-RoBERTa razsirijo obseg na 48 lokalnih okolij. Vkljuceni so entitetni tipi, specificni za posamezno drzavo, za vse drzave clanice EU.
Viri
- ACL 2024: Hybrid PII Detection for European Locales
- Scalable Multilingual PII Annotation Framework (arXiv 2025)
- HuggingFace XLM-RoBERTa Cross-Lingual NER Benchmarks
- Microsoft Presidio GitHub Issue #1071 -- German False Positives
- EDPB Guidelines on Article 25 Privacy by Design
- CNIL 2024 Annual Report