Reprodukálható adatvédelem: miért van szükségük az ML-csapatoknak presetekre, nem csak dokumentumokra?
Az adatvédelmi tisztviselő jóváhagyta az anonimizálási tervet. Négy dolgot fed le: neveket, e-mail-címeket, telefonszámokat és születési dátumokat. A módszer a Csere. A terv négy oldalas, és a megfelelési wikiben él.
Tizenkét adattudós olvassa az indulóértekezleten. Mindenki önállóan állítja be az eszközt. Néhányan hozzáadják a nemzeti azonosítókat. Mások az IP-címeket is felveszik. Páran átváltanak Kiszűrésre. Három hónappal később az adatkészletek nem egységesek.
A CNIL 2024-ben több AI-céget is ellenőrzött. A kérdés: személyes adatok nem megfelelő felhasználása modelladatkészletekben. Nem csupán azt kérdezték, hogy történt-e anonimizálás. Azt kérdezték, milyen következetesen alkalmazták.
A dokumentumok szükségesek. De nem elegendők. A megoldás a preset.
Miért van szükség az ML-adatkészletekhez saját konfigurációra?
A modelladatkészletek összeállításának egyedi igényei vannak. Az általános dokumentum-anonimizálás nem osztja meg őket.
Csere, nem Kiszűrés. A modellek, amelyeket olyan szövegen tanítottak be, ahol a nevek [KISZŰRVE]-re változtak, ezt a tokent névpozíció-jelölőként tanulják meg. Ez rontja a modellt. A Csere a „Kovács János” nevet „Nagy Péter”-re cseréli. A modell valódi névmintákat lát. Nem maszktokent.
Ugyanaz a folyamat minden rekordnál. Egy adatkészlet, ahol a nevek 70%-a kicserélve van és 30%-a [KISZŰRVE], vegyes jelet küld. Minden rekordnak ugyanazon a lépéseken kell átmennie.
Ugyanaz az entitáslista. Ha az adatkészlet egészségügyi adatokat tartalmaz, a nevek eltávolítása, de a születési dátumok meghagyása egyes rekordokban rést hagy. Mind a tizenkét adattudósnak ugyanazokat a típusokat kell eltávolítania.
Nincs túlzott eltávolítás. A timestamps jellegű — nem születési — dátumok kivétele csökkenti az adatkészlet minőségét megfelelési nyereség nélkül. A jóváhagyott preset pontosan meghatározza, mit kell eltávolítani.
Reprodukálható kimenet. Ha egy adatkészletet újra kell futtatni — mondjuk egy hiányzó entitástípus felfedezése után —, a preset minden alkalommal ugyanazt az eredményt adja. Az ad hoc konfigurációk nem.
A tizenkét adattudós problémája
Egy európai fintech ML-csapat ügyféltevékenység-naplókból készített adatkészleteket használ. Az adatvédelmi tisztviselő jóváhagyta a célt — csalásfelismerés — egy szabállyal: minden ügyfélnevet, e-mail-címet, telefonszámot és fizetési azonosítót ki kell cserélni, mielőtt a modellmunka megkezdődik.
Presetek nélkül:
- Az 1. személy eltávolítja a neveket, e-mail-címeket és telefonszámokat — de kihagyja a fizetési azonosítókat
- A 2. személy belefoglalja a fizetési azonosítókat, de Kiszűrést alkalmaz Csere helyett
- A 3. személy pontosan követi a tervdokumentumot
- A 4–12. személy változó módon jár el
Az összesített adatkészlet részben nem megfelelő és részben túlfeldolgozott. Az adatvédelmi tisztviselő nem tudja hitelesíteni.
Adatvédelmi tisztviselő által jóváhagyott presettel:
- Az adatvédelmi tisztviselő létrehozza az „ML fejlesztés — Csalásfelismerés” presetet pontos entitástípusokkal és Csere módszerrel
- A presetet mindenki megkapja egy szabállyal: ezt kell használni minden adatkészletmunkához
- Senki sem módosíthatja a presetet adatvédelmi tisztviselői jóváhagyás nélkül
Mindenki most ugyanazt a kimenetet produkálja. Az összesített adatkészlet egységes. Az éves AI-ellenőrzés nulla észrevétellel zárul. Az előző évben három észrevétel volt az inkonzisztens adatkészletmunkából.
GDPR és az AI-törvény
2026-ra frissítve
Az EU AI-törvény 2024 augusztusában teljesen hatályba lépett. Szabályokat ad a személyes adatokat modelladatkészletekhez felhasználó AI-rendszerekre. A magas kockázatú AI-rendszereknek dokumentálniuk kell adatkészleteiket, beleértve a alkalmazott anonimizálást is.
A GDPR 5. cikk (1) bekezdés b) pontja — a célhoz kötöttség szabálya — blokkolja a személyes adatok felhasználását egyértelmű jogalap nélkül. A CNIL 2024-es ügyei erre a résre összpontosítottak: az egyik szolgáltatáshoz gyűjtött adatokat modelladatként használták érvényes jogalap vagy anonimizálás nélkül.
A presetek mindkét szabályrendszer kielégítéséhez hozzájárulnak:
- Preset neve és konfigurációja: a dokumentált módszer
- Feldolgozási naplók: a módszer alkalmazásának bizonyítéka
- Adatvédelmi tisztviselő jóváhagyása: rögzített jóváhagyás a konfigurációhoz
Ez létrehozza az audit trail-t, amelyet mindkét törvény megkövetel. A 10. cikk kötelezettségeiről részletesen lásd: EU AI Act betanítási adatok útmutatója.
NLP-modelladatkészletek presetkonfigurációja
A legtöbb NLP-modelladatkészletbe belefoglalandó típusok:
- PERSON — Cserélje hasonló nevekre
- EMAIL_ADDRESS — Cserélje szintetikus címekre
- PHONE_NUMBER — Cserélje szintetikus számokra
- CREDIT_CARD / IBAN — Cserélje vagy szűrje ki
- LOCATION — Cserélje hasonló helyekre, ha a helyszín fontos; szűrje ki, ha nem
- DATE_OF_BIRTH — Szűrje ki; az életkor-csoportosítás sokszor szükséges
Gyakran kihagyott típusok:
- Általános dátumok — az időbélyegek segítik a temporális modelleket
- Szervezetnevek — segítik az elnevezett entitásfelismerési modelleket
- URL-ek — segítik a hivatkozási és referencia-modelleket
Az ML-vezető és az adatvédelmi tisztviselő rögzíti ezeket a szabályokat a jóváhagyott presetben. A csapattagok alkalmazzák. Ők nem hoznak konfigurációs döntéseket.
A presetek mint intézményi memória
Presetek előtt. A helyes entitáskonfiguráció három adattudós fejében élt. Ők dolgozták át a megfelelési felülvizsgálatot. Kettő elhagyta a céget a harmadik negyedévben. A tudás velük ment.
Presetek után. A konfiguráció az „ML fejlesztés — Ügyfélrekordok v2.1”-ben él. A verziónapló megmutatja, mikor készült, ki hagyta jóvá, és mi változott a v2.0-hoz képest. Az új csapattagok a presetet használják, és megkapják az abba beépített összes tudást.
A 2.1-es verzió IBAN-felismerést adott hozzá, miután egy felülvizsgálat hiányosságot talált. A 2.0-s verziót 2025 februárjában hagyták jóvá. A napló teljes.
A feldolgozási naplók és az adatvédelmi tisztviselői felülvizsgálati folyamatok működéséről lásd: GDPR ML-betanítás anonimizálási útmutatója.
Presetek vs. a CNIL-minta
A CNIL 2024-es AI-ügyei egyértelmű mintát állítottak fel. Nemcsak azt kérdezik, mit távolítottak el, hanem azt is, hogyan irányították. Egy megosztott preset adatvédelmi tisztviselői jóváhagyási rekorddal és feldolgozási naplókkal közvetlenül megválaszolja ezt.
Egy ad hoc konfiguráció nem. Ugyanez a rés létezik más EU-s adatvédelmi hatóságok CNIL-logikát követő ügyeiben is. A CNIL AI-megközelítéséről bővebben lásd: CNIL GDPR AI-megfelelési útmutató.
Összefoglalás
A dokumentumok megmondják a csapattagoknak, mit kell tenniük. A presetek megkönnyítik — és kötelezővé teszik —, hogy minden alkalommal ugyanúgy tegyék.
Az ML-modelladatkészleteknél az egységesség egyszerre jogi és technikai szükséglet. A preset mindkettőt egyszerre teljesíti.
Az AI-gyakorlatokat vizsgáló adatvédelmi hatóságok az egységes anonimizálás bizonyítékát akarják látni. Egy minden adatkészletmunkánál ugyanúgy alkalmazott preset a legtisztább bizonyíték, amelyet nyújthat.