Comment mener une AIPD pour un système d'IA ?

Couvrez les quatre éléments exigés par l'article 35 du RGPD : décrire le traitement, évaluer sa nécessité et sa proportionnalité, évaluer les risques pour les personnes et définir les mesures. Ajoutez ensuite la couche propre à l'IA : par où les données personnelles entrent dans le modèle, ce qu'il peut divulguer ou déduire, si une revendication d'anonymat tient, et comment vous traitez les données personnelles hallucinées.

Selon l'article 35 du RGPD, une analyse d'impact relative à la protection des données (AIPD) est requise lorsqu'un traitement est susceptible d'engendrer un risque élevé pour les droits et libertés des personnes. De nombreux systèmes d'IA traitant des données personnelles atteignent ce seuil. L'article 35, paragraphe 7, fixe le contenu minimal : une description systématique du traitement et de ses finalités, une évaluation de sa nécessité et de sa proportionnalité, une évaluation des risques pour les personnes concernées et les mesures envisagées pour y faire face.

Pour un système d'IA, chaque élément appelle une couche propre à l'IA :

  1. Décrire le système et ses flux de données. Couvrez les données d'entraînement et d'affinage, les sources de récupération, les prompts, les sorties et les journaux, et pas seulement la base de données de production.
  2. Évaluer la nécessité et la proportionnalité. Demandez-vous si des données personnelles sont indispensables pour entraîner ou ancrer le modèle, et si des données pseudonymisées ou synthétiques suffiraient.
  3. Apprécier les risques au niveau du modèle. Ils comprennent la mémorisation et l'extraction de données d'entraînement, l'inférence d'appartenance, l'inversion de modèle, l'empoisonnement, l'accès d'initiés aux journaux et aux embeddings, et les données personnelles hallucinées. L'ISO/IEC 27091 (publication estimée à février 2027) propose une méthode structurée pour cette analyse.
  4. Vérifier toute revendication d'anonymat. L'avis 28/2024 du CEPD indique que les modèles d'IA entraînés sur des données personnelles ne peuvent pas toujours être considérés comme anonymes, et que l'anonymat s'apprécie au cas par cas. Documentez les tests d'extraction et d'inférence qui fondent votre conclusion.
  5. Définir les mesures et le risque résiduel. Par exemple : limites d'accès, pseudonymisation avant l'entraînement, filtrage des sorties, ancrage dans les sources, durées de conservation et processus de traitement des demandes de rectification et d'effacement portant sur les sorties du modèle. Si un risque résiduel élevé subsiste, l'article 36 impose de consulter préalablement l'autorité de contrôle.

Réexaminez l'AIPD à chaque changement de modèle, de données d'entraînement ou de cas d'usage. En Suisse, la LPD révisée prévoit elle aussi une analyse d'impact pour les traitements à risque élevé.

Pour aller plus loin : guide ISO/IEC 27091 · comment l'ISO/IEC 27701 soutient la conformité au RGPD.

Toutes les questions fréquentes →

Base de connaissances complète