Privacidad Reproducible: Por Qué los Equipos de ML Necesitan Configuraciones Preestablecidas, No Solo Documentación
El DPO aprobó el documento del procedimiento de anonimización. Especifica: eliminar nombres, correos electrónicos, números de teléfono y fechas de nacimiento de los conjuntos de datos de entrenamiento utilizando el método Reemplazar. El documento tiene 4 páginas y se encuentra en la wiki de cumplimiento.
Doce científicos de datos lo consultan al inicio del proyecto. Configuran sus propias versiones de la herramienta de anonimización. Algunos añaden identificaciones nacionales. Algunos incluyen direcciones IP. Algunos utilizan Redactar en lugar de Reemplazar. Tres meses después, los conjuntos de datos de entrenamiento son inconsistentes.
La CNIL (la DPA de Francia) investigó a múltiples empresas de IA en 2024 por el uso indebido de datos personales en conjuntos de datos de entrenamiento. Las investigaciones examinaron no solo si se produjo la anonimización, sino cómo se aplicó de manera consistente.
La documentación es necesaria. No es suficiente. La solución técnica es la configuración preestablecida.
Por Qué los Datos de Entrenamiento de ML Requieren Configuración Específica
La anonimización de datos de entrenamiento de ML tiene requisitos que la anonimización de documentos generales no tiene:
Reemplazar, no Redactar: Los modelos de lenguaje neuronal entrenados en texto donde los nombres son reemplazados por tokens [REDACTED] aprenden que [REDACTED] es un identificador especial que aparece en posiciones de nombres. Esto crea un comportamiento indeseable en el modelo. El método Reemplazar (sustituyendo "John Smith" por "David Chen") preserva la distribución estadística de los nombres en el texto mientras elimina la información identificativa. El modelo aprende de distribuciones realistas de posiciones de nombres, no de un token de máscara.
Consistencia en el conjunto de datos: Un conjunto de datos de entrenamiento donde el 70% de los nombres son reemplazados y el 30% son [REDACTED] produce una señal de entrenamiento inconsistente. Todos los registros deben ser procesados de manera idéntica.
Selección de entidades consistente: Si el conjunto de datos de entrenamiento contiene datos de salud, eliminar nombres pero no fechas de nacimiento en algunos registros crea inconsistencia. Todos los 12 científicos de datos deben eliminar el mismo conjunto de tipos de entidades.
No sobre-anonimización: El método de Reemplazar aplicado en exceso — eliminando fechas que son meramente marcas de tiempo, no fechas de nacimiento — degrada la utilidad del conjunto de datos sin mejorar el cumplimiento. La configuración preestablecida aprobada define exactamente qué entidades de fecha eliminar (fecha de nacimiento, no marcas de tiempo generales).
Reproducibilidad a través de ejecuciones: Si el mismo conjunto de datos necesita ser reprocesado (por ejemplo, después de detectar un tipo de entidad omitido), reprocesar con la misma configuración preestablecida produce una salida consistente. Las configuraciones ad-hoc no son reproducibles.
El Problema de los 12 Científicos de Datos
El equipo de ML de una empresa fintech europea utiliza un conjunto de datos de entrenamiento derivado de registros de interacción con clientes. El DPO aprobó el propósito de procesamiento (entrenamiento de modelo para detección de fraude) con condiciones: todos los nombres de clientes, correos electrónicos, números de teléfono e identificadores de pago deben ser reemplazados utilizando el método Reemplazar antes de cualquier entrenamiento de modelo.
Sin configuraciones preestablecidas:
- El científico de datos 1 elimina nombres, correos electrónicos, números de teléfono (no incluye identificadores de pago)
- El científico de datos 2 incluye identificadores de pago pero utiliza Redactar en lugar de Reemplazar
- El científico de datos 3 sigue el documento del procedimiento exactamente
- Los científicos de datos 4-12 varían
Resultado: 12 versiones procesadas de manera diferente de los datos de entrenamiento. El conjunto de datos combinado es parcialmente no conforme, parcialmente sobre-anonimizado y estadísticamente inconsistente.
Con configuración preestablecida aprobada por el DPO:
- El DPO crea la configuración preestablecida "Entrenamiento de ML — Detección de Fraude" con tipos de entidades exactos y método Reemplazar
- La configuración preestablecida se comparte con los 12 científicos de datos con instrucciones: "Utiliza esta configuración preestablecida para toda la preparación de datos de entrenamiento"
- La configuración preestablecida no puede ser modificada sin revisión del DPO (control de acceso a la configuración)
Resultado: Todos los 12 científicos de datos producen una salida de anonimización idéntica. El conjunto de datos combinado es consistente. La auditoría anual de cumplimiento de IA pasa sin hallazgos.
Año anterior: 3 hallazgos relacionados con la anonimización inconsistente de datos de entrenamiento de ML. Post-configuración preestablecida: 0 hallazgos.
Intersección de la Ley de IA de GDPR
La Ley de IA de la UE (en vigor desde agosto de 2024) añade requisitos de cumplimiento para sistemas de IA que utilizan datos personales para entrenamiento. Los sistemas de IA de alto riesgo deben documentar sus datos de entrenamiento, incluyendo las medidas de anonimización aplicadas.
El principio de limitación de propósito del GDPR (Artículo 5(1)(b)) limita el uso de datos personales para el entrenamiento de ML sin una base legal específica. Las acciones de cumplimiento de la CNIL en 2024 contra empresas de IA se centraron en esta intersección: datos personales recolectados para la prestación de servicios que se utilizan para el entrenamiento sin una base legal adecuada o anonimización.
Los requisitos de documentación tanto del GDPR como de la Ley de IA son más fáciles de satisfacer cuando el proceso de anonimización de datos de entrenamiento se aplica técnicamente a través de configuraciones preestablecidas:
- Nombre y configuración de la configuración preestablecida: la metodología de anonimización documentada
- Registros de procesamiento: evidencia de que la metodología se aplicó a conjuntos de datos específicos
- Aprobación del DPO: decisión registrada que autoriza la configuración preestablecida
Esto crea la pista de auditoría que ambos regulaciones requieren.
Configuración Preestablecida para Datos de Entrenamiento de ML
Tipos de entidades para la mayoría de los datos de entrenamiento de NLP:
- PERSONA (nombres — Reemplazar con nombres similares)
- CORREO_ELECTRÓNICO (Reemplazar con correos electrónicos sintéticos)
- NÚMERO_DE_TELEFONO (Reemplazar con números de teléfono sintéticos)
- TARJETA_DE_CREDITO / IBAN (Reemplazar o Redactar — datos de pago)
- UBICACIÓN (Reemplazar con ubicaciones similares si se necesita geo para el modelo; Redactar si no)
- FECHA_DE_NACIMIENTO (Redactar — a menudo se necesita generalización de edad)
Tipos de entidades que típicamente NO se incluyen para datos de entrenamiento de NLP:
- Fechas generales (no fecha de nacimiento) — marcas de tiempo y fechas en el texto a menudo son necesarias para modelado temporal
- Nombres de organizaciones — a menudo necesarios para entrenamiento de reconocimiento de entidades
- URLs — a menudo necesarios para vinculación y extracción de referencias
El líder de ML y el DPO definen estas distinciones en la configuración preestablecida aprobada. Los científicos de datos individuales no toman estas decisiones — aplican la configuración preestablecida.
Conocimiento Institucional y Versionado de Configuraciones Preestablecidas
Las configuraciones preestablecidas sirven como una función de memoria institucional:
Antes de las configuraciones preestablecidas: La configuración correcta de entidades para datos de entrenamiento de ML vivía en las mentes de los tres científicos de datos que habían trabajado en el proceso de revisión de cumplimiento. Cuando dos de ellos se fueron en el tercer trimestre, se perdió el conocimiento institucional.
Después de las configuraciones preestablecidas: La configuración está codificada en "Entrenamiento de ML — Datos de Clientes v2.1". El historial de versiones muestra cuándo fue creada, quién la aprobó y qué cambió entre v2.0 y v2.1. Nuevos científicos de datos utilizan la configuración preestablecida y heredan el conocimiento institucional embebido en ella.
La versión 2.1 añadió detección de IBAN después de que una revisión de cumplimiento encontró que faltaba. Los registros de la versión 2.0 muestran que fue aprobada en febrero de 2025. La pista de auditoría está completa.
Conclusión
La documentación le dice a los miembros del equipo qué hacer. Las configuraciones preestablecidas facilitan técnica y técnicamente — y son exigibles técnicamente — hacerlo de manera consistente.
Para los datos de entrenamiento de ML específicamente, la consistencia es tanto un requisito de cumplimiento (GDPR, Ley de IA) como un requisito técnico (el entrenamiento de modelos requiere preprocesamiento consistente). La configuración preestablecida satisface ambos simultáneamente.
La CNIL y otras DPAs que investigan las prácticas de datos de entrenamiento de IA buscarán evidencia de anonimización sistemática y consistente. Una configuración preestablecida aplicada uniformemente a toda la preparación de datos de entrenamiento es la evidencia más sólida disponible.
Fuentes: