¿Cómo se realiza una EIPD de un sistema de IA?

Cubra los cuatro elementos que exige el artículo 35 del RGPD: describir el tratamiento, evaluar su necesidad y proporcionalidad, evaluar los riesgos para las personas y definir las medidas. Después añada la capa propia de la IA: por dónde entran los datos personales en el modelo, qué puede revelar o deducir, si una alegación de anonimato se sostiene y cómo trata los datos personales alucinados.

Según el artículo 35 del RGPD, se exige una evaluación de impacto relativa a la protección de datos (EIPD) cuando un tratamiento probablemente entrañe un alto riesgo para los derechos y libertades de las personas. Muchos sistemas de IA que tratan datos personales alcanzan ese umbral. El artículo 35, apartado 7, fija el contenido mínimo: una descripción sistemática del tratamiento y de sus fines, una evaluación de su necesidad y proporcionalidad, una evaluación de los riesgos para los interesados y las medidas previstas para afrontarlos.

En un sistema de IA, cada elemento requiere una capa propia de la IA:

  1. Describir el sistema y sus flujos de datos. Incluya los datos de entrenamiento y de ajuste fino, las fuentes de recuperación, los prompts, las salidas y los registros, no solo la base de datos de producción.
  2. Evaluar la necesidad y la proporcionalidad. Pregúntese si los datos personales son imprescindibles para entrenar o fundamentar el modelo, o si bastarían datos seudonimizados o sintéticos.
  3. Evaluar los riesgos en el modelo. Incluyen la memorización y la extracción de datos de entrenamiento, la inferencia de pertenencia, la inversión del modelo, el envenenamiento, el acceso interno a los registros y los embeddings, y los datos personales alucinados. La ISO/IEC 27091 (publicación estimada para febrero de 2027) propone un método estructurado para este análisis.
  4. Comprobar cualquier alegación de anonimato. El Dictamen 28/2024 del CEPD indica que los modelos de IA entrenados con datos personales no siempre pueden considerarse anónimos y que el anonimato se valora caso por caso. Documente las pruebas de extracción e inferencia en las que se basa su conclusión.
  5. Definir las medidas y el riesgo residual. Por ejemplo: límites de acceso, seudonimización antes del entrenamiento, filtrado de salidas, fundamentación en fuentes, plazos de conservación y un proceso para atender las solicitudes de rectificación y supresión relativas a las salidas del modelo. Si persiste un riesgo residual alto, el artículo 36 obliga a consultar previamente a la autoridad de control.

Revise la EIPD cada vez que cambie el modelo, los datos de entrenamiento o el caso de uso. En Suiza, la LPD revisada también prevé una evaluación de impacto para los tratamientos de alto riesgo.

Para saber más: guía de la ISO/IEC 27091 · cómo apoya la ISO/IEC 27701 el cumplimiento del RGPD.

Ver todas las formaciones Gobernanza, Riesgos y Cumplimiento

Todas las preguntas frecuentes →

Base de conocimiento completa