Wie identifiziere ich KI-spezifische Risiken wie Bias, Drift und adversariale Bedrohungen?

Die Identifikation KI-spezifischer Risiken erfordert eine strukturierte Analyse über den gesamten Lebenszyklus eines KI-Systems hinweg, von der Datenerhebung über die Bereitstellung bis zum laufenden Betrieb. Unterschiedliche Phasen bringen unterschiedliche Risikoprofile mit sich, die systematisch bewertet werden müssen.

Datenrisiken entstehen bei Erhebung, Kennzeichnung und Aufbereitung. Verzerrte Trainingsdaten führen selbst bei neutralen Algorithmen zu diskriminierenden Modellen. Historische Daten können überholte Annahmen enthalten, Bevölkerungsgruppen unterrepräsentieren oder systemische Ungleichheiten widerspiegeln. Datenqualitätsprobleme (fehlende Werte, Kennzeichnungsfehler, Verteilungsverzerrungen) beeinträchtigen die Modellleistung im Betrieb. Zur Identifikation dienen Datenprofilierung, demografische Analysen und Repräsentationsprüfungen.

Modellrisiken zeigen sich in Entwicklung und Training. Overfitting erzeugt Modelle, die Trainingsdaten auswendig lernen, bei neuen Eingaben aber versagen. Underfitting führt zu Modellen, die zu einfach sind, um wichtige Muster zu erfassen. Concept Drift tritt auf, wenn sich die Beziehung zwischen Eingaben und Ausgaben im Zeitverlauf verändert und trainierte Modelle veralten lässt. Die Identifikation erfordert Validierungsstrategien, Kreuzvalidierung und Mechanismen zur Drift-Erkennung.

Einsatzrisiken umfassen adversariale Angriffe, bei denen böswillige Akteure Eingaben manipulieren, um Modelle zu täuschen, Modellinversionsangriffe, die Trainingsdaten extrahieren, sowie Membership-Inference-Angriffe, die die Privatsphäre verletzen. Missbrauchsrisiken entstehen, wenn KI in Kontexten eingesetzt wird, für die sie nicht ausgelegt ist. Zur Identifikation dienen Bedrohungsmodellierung, Red-Team-Übungen und eine KI-spezifische Analyse der Angriffsfläche.

Betriebsrisiken umfassen Rückkopplungsschleifen, bei denen Modellausgaben künftige Trainingsdaten beeinflussen und sich selbst verstärkende Zyklen entstehen. Automatisierungsverzerrung (Automation Bias) tritt auf, wenn Menschen sich unkritisch auf KI-Empfehlungen verlassen. Unbeabsichtigte gesellschaftliche Auswirkungen zeigen sich erst im grossen Massstab. Diese Risiken erfordern eine kontinuierliche Beobachtung des tatsächlichen Systemverhaltens, der Nutzungsmuster und der breiteren Ökosystemeffekte.