פרטיות ניתנת לשחזור: מדוע צוותי ML זקוקים לערכות, לא רק למסמכים
ה-DPO אישר את תכנית האנונימיזציה. היא מכסה ארבעה פריטים: שמות, אימיילים, מספרי טלפון ותאריכי לידה. השיטה היא Replace. התכנית בת ארבעה עמודים וחיה בוויקי הציות.
שנים עשר מדעני נתונים קראו אותה בסיום ההשקה. כל אחד מגדיר את הכלי בעצמו. חלקם מוסיפים מזהים לאומיים. חלקם מוסיפים כתובות IP. חלקם עוברים ל-Redact. שלושה חודשים מאוחר יותר, הסטים אינם עקביים.
ה-CNIL בחנה מספר חברות AI ב-2024. הבעיה: שימוש לא ראוי בפרטים אישיים בסטי מודלים. הם לא שאלו רק האם אנונימיזציה התרחשה. הם שאלו עד כמה היא הוחלה באופן עקבי.
מסמכים נדרשים. הם אינם מספיקים. התיקון הוא הערכה.
מדוע סטי מודלים ML דורשים תצורה משלהם
בניית סטי מודלים דורשת ייחוד. אנונימיזציית מסמכים כללית אינה חולקת בהם.
Replace, לא Redact. מודלים שאומנו על טקסט שבו שמות הופכים ל-[REDACTED] לומדים את האסימון הזה כסמן מיקום שם. זה פוגע במודל. Replace מחליף "John Smith" ב-"David Chen". המודל רואה דפוסי שם אמיתיים. הוא לא רואה אסימון מסכה.
אותו תהליך לכל הרשומות. סט שבו 70% מהשמות מוחלפים ו-30% הם [REDACTED] שולח אות מעורב. כל רשומה חייבת לעבור את אותם שלבים.
אותה רשימת ישויות. אם הסט מחזיק פרטי בריאות, הסרת שמות אך השארת תאריכי לידה בחלק מהרשומות יוצרת פערים. כל שנים עשר מדעני הנתונים חייבים להסיר את אותם סוגים.
ללא הסרת יתר. הסרת תאריכים שהם חותמות זמן — לא תאריכי לידה — מצמצמת את איכות הסט ללא רווח ציות. הערכה המאושרת אומרת בדיוק אילו פריטים להסיר.
פלט ניתן לחזרה. אם סט חייב להיות מורץ שוב — נניח, לאחר שנמצא סוג ישות שהוחמץ — הערכה נותנת את אותה תוצאה בכל פעם. תצורות אד-הוק אינן.
בעיית שנים עשר מדעני הנתונים
צוות ML פינטק באירופה משתמש בסטים מיומני לקוחות. ה-DPO אישר את המטרה — זיהוי הונאה — עם כלל אחד: כל שמות לקוחות, אימיילים, מספרי טלפון ומזהי תשלום חייבים להיות מוחלפים לפני שעבודת המודל מתחילה.
ללא ערכות:
- אדם 1 מסיר שמות, אימיילים ומספרי טלפון — אך מפספס מזהי תשלום
- אדם 2 כולל מזהי תשלום אך משתמש ב-Redact, לא Replace
- אדם 3 פועל לפי מסמך התכנית במדויק
- אנשים 4-12 משתנים
הסט הממוזג חלקית לא-תואם וחלקית מעובד-יתר. DPO אינו יכול לאשר אותו.
עם ערכה מאושרת של DPO:
- ה-DPO יוצר "ML Dev — זיהוי הונאה" עם סוגי ישויות מדויקים ושיטת Replace
- הערכה הולכת לכל שנים עשר האנשים עם כלל אחד: השתמשו בזה לכל עבודת סט
- אף אחד אינו יכול לשנות את הערכה ללא אישור DPO
כל אדם מייצר כעת את אותה תפוקה. הסט הממוזג עקבי. ביקורת ה-AI השנתית עוברת ללא ממצאים. בשנה הקודמת היו שלושה ממצאים מעבודת סט לא עקבית.
GDPR וחוק ה-AI
מעודכן ל-2026
חוק ה-AI של האיחוד האירופי נכנס לתוקף מלא באוגוסט 2024. הוא מוסיף כללים למערכות AI המשתמשות בפרטים אישיים לעבודת מודל. מערכות AI בסיכון גבוה חייבות לתעד את הסטים שלהן, כולל אנונימיזציה שהוחלה.
סעיף 5(1)(ב) של GDPR — כלל הגבלת המטרה — חוסם שימוש בפרטים אישיים ללא בסיס משפטי ברור. מקרי ה-CNIL ב-2024 התמקדו בפרצה זו: פרטים שנאספו לשירות אחד שימשו לעבודת מודל ללא בסיס תקף או אנונימיזציה.
ערכות עוזרות לספק את שתי קבוצות הכללים:
- שם ותצורת ערכה: השיטה המתועדת
- יומני עיבוד: הוכחה שהשיטה הוחלה
- אישור DPO: אישור מוקלט על התצורה
זה יוצר את שביל הביקורת שדורשים שני החוקים. לחובות סעיף 10 בפירוט, ראו את מדריך נתוני האימון של חוק ה-AI.
תצורת ערכה לסטי מודל NLP
סוגים שיש לכלול ברוב סטי מודל NLP:
- PERSON — Replace בשמות דומים
- EMAIL_ADDRESS — Replace בכתובות סינתטיות
- PHONE_NUMBER — Replace במספרים סינתטיים
- CREDIT_CARD / IBAN — Replace או Redact
- LOCATION — Replace במקומות דומים אם המיקום חשוב; Redact אם לא
- DATE_OF_BIRTH — Redact; קיבוץ גיל לעיתים קרובות נדרש
סוגים שלעיתים קרובות מושמטים:
- תאריכים כלליים — חותמות זמן עוזרות למודלים זמניים
- שמות ארגונים — עוזרים למודלי ישויות בשם
- כתובות URL — עוזרות למודלי קישור ואסמכתאות
אחראי ML וה-DPO קובעים כללים אלה בערכה המאושרת. חברי הצוות מחילים אותה. הם אינם מקבלים בחירות תצורה.
ערכות כזיכרון מוסדי
לפני ערכות. תצורת הישות הנכונה חיה בראשיהם של שלושה מדעני נתונים. הם עבדו דרך סקירת הציות. שניים עזבו ברבעון 3. הידע הלך איתם.
אחרי ערכות. התצורה חיה ב-"ML Dev — רשומות לקוחות v2.1". יומן הגרסאות מראה מתי נוצרה, מי אישר אותה ומה השתנה מ-v2.0. חברי צוות חדשים משתמשים בערכה ומקבלים את כל הידע שבנוי לתוכה.
גרסה 2.1 הוסיפה זיהוי IBAN לאחר שסקירה מצאה שהוא חסר. גרסה 2.0 אושרה בפברואר 2025. היומן שלם.
לאופן שבו יומני עיבוד וזרימות סקירת DPO עובדים, ראו את מדריך אנונימיזציה GDPR לנתוני אימון ML.
ערכות לעומת דפוס CNIL
מקרי ה-AI של CNIL 2024 קובעים דפוס ברור. הם שואלים לא רק מה הוסר אלא כיצד הוא נושל. ערכה משותפת עם רשומת אישור DPO ויומני עיבוד עונה על כך ישירות.
תצורת אד-הוק אינה. אותה פרצה קיימת במקרי DPA EU אחרים שפועלים לפי ההגיון של CNIL. לפרטים נוספים על גישת CNIL ל-AI, ראו את מדריך ציות GDPR AI של CNIL.
סיכום
מסמכים אומרים לחברי הצוות מה לעשות. ערכות הופכות את זה לקל — ואכיף — לעשות את זה באותה דרך בכל פעם.
לסטי מודל ML, עקביות היא גם צורך משפטי וגם טכני. הערכה עומדת בשניהם בו-זמנית.
RPAs שבוחנים שיטות AI רוצים ראיות לאנונימיזציה אחידה. ערכה המוחלת באותה דרך בכל עבודת סט היא ההוכחה הברורה ביותר שתוכלו לספק להם.