Wie führt man eine DSFA für ein KI-System durch?

Decken Sie die vier Elemente ab, die Artikel 35 DSGVO verlangt: Verarbeitung beschreiben, Notwendigkeit und Verhältnismäßigkeit bewerten, Risiken für die Betroffenen bewerten und Abhilfemaßnahmen festlegen. Ergänzen Sie dann die KI-spezifische Ebene: wo personenbezogene Daten in das Modell gelangen, was es preisgeben oder ableiten kann, ob eine Anonymitätsbehauptung trägt und wie Sie mit halluzinierten personenbezogenen Daten umgehen.

Nach Artikel 35 DSGVO ist eine Datenschutz-Folgenabschätzung (DSFA) erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Viele KI-Systeme, die personenbezogene Daten verarbeiten, erreichen diese Schwelle. Artikel 35 Absatz 7 legt den Mindestinhalt fest: eine systematische Beschreibung der Verarbeitung und ihrer Zwecke, eine Bewertung der Notwendigkeit und Verhältnismäßigkeit, eine Bewertung der Risiken für die betroffenen Personen und die geplanten Abhilfemaßnahmen.

Bei einem KI-System braucht jedes Element eine KI-spezifische Ebene:

  1. System und Datenflüsse beschreiben. Erfassen Sie Trainings- und Feintuning-Daten, Retrieval-Quellen, Prompts, Ausgaben und Logs, nicht nur die Produktionsdatenbank.
  2. Notwendigkeit und Verhältnismäßigkeit bewerten. Fragen Sie, ob personenbezogene Daten für Training oder Verankerung des Modells unverzichtbar sind oder ob pseudonymisierte oder synthetische Daten genügen.
  3. Risiken auf Modellebene bewerten. Dazu gehören Memorisierung und Extraktion von Trainingsdaten, Mitgliedschaftsinferenz, Modellinversion, Datenvergiftung, Insider-Zugriff auf Logs und Embeddings sowie halluzinierte personenbezogene Daten. Die ISO/IEC 27091 (Veröffentlichung geschätzt für Februar 2027) bietet dafür eine strukturierte Methode.
  4. Jede Anonymitätsbehauptung prüfen. Nach der Stellungnahme 28/2024 des EDSA können KI-Modelle, die mit personenbezogenen Daten trainiert wurden, nicht in allen Fällen als anonym gelten; die Anonymität ist im Einzelfall zu beurteilen. Dokumentieren Sie die Extraktions- und Inferenztests, auf die sich Ihre Schlussfolgerung stützt.
  5. Maßnahmen und Restrisiko festlegen. Zum Beispiel Zugriffsgrenzen, Pseudonymisierung vor dem Training, Ausgabefilterung, Verankerung in Quellen, Aufbewahrungsfristen und ein Prozess für Berichtigungs- und Löschanträge zu Modellausgaben. Bleibt ein hohes Restrisiko, verlangt Artikel 36 die vorherige Konsultation der Aufsichtsbehörde.

Überprüfen Sie die DSFA bei jeder Änderung des Modells, der Trainingsdaten oder des Anwendungsfalls. In der Schweiz sieht das revidierte Datenschutzgesetz (revDSG) für Bearbeitungen mit hohem Risiko ebenfalls eine Datenschutz-Folgenabschätzung vor.

Mehr dazu: Leitfaden zur ISO/IEC 27091 · wie die ISO 27701 die DSGVO-Konformität unterstützt.

Browse all FAQs →

Full knowledge base