KI-Risiken sind dynamisch, probabilistisch und kontextabhängig. Anders als statische IT-Systeme verschlechtern sich KI-Modelle mit der Zeit, erzeugen unerwartete Ausgaben und versagen auf Weisen, die schwer vorherzusagen oder vollständig zu testen sind.
KI-Risikomanagement unterscheidet sich grundlegend vom klassischen IT-Risikomanagement, da KI-Systeme besondere Eigenschaften aufweisen. Klassische IT-Risiken betreffen relativ vorhersehbare Ausfallarten: Server stürzen ab, Netzwerke fallen aus, Software enthält Fehler. Solche Risiken lassen sich durch Redundanz, Tests und etablierte Massnahmen beherrschen. KI-Systeme bringen andere Risikoprofile mit sich, die andere Steuerungsansätze verlangen.
KI-Modelle sind probabilistisch, nicht deterministisch. Sie führen keine feste Logik aus, sondern treffen Vorhersagen auf Basis erlernter Muster. Dadurch können KI-Systeme auf subtile, kontextabhängige Weise versagen, die schwer zu antizipieren ist. Ein Modell, das im Test gut abschneidet, kann sich im Betrieb verschlechtern, sobald sich Datenverteilungen verschieben, wodurch ein Modell-Drift entsteht, den klassische Überwachung nicht erkennt.
Bias- und Fairness-Risiken sind KI-spezifisch. Trainingsdaten können historische Verzerrungen enthalten, die zu diskriminierenden Ergebnissen führen, selbst wenn geschützte Merkmale ausgeschlossen werden. Diese Risiken erfordern spezialisierte Bewertungsmethoden wie Fairness-Metriken, Bias-Tests und Analysen der demografischen Parität, die in klassischen IT-Risikorahmen nicht vorkommen.
KI-Systeme treffen ihre Entscheidungen intransparent, besonders Deep-Learning-Modelle. Diese Undurchsichtigkeit erschwert Erklärbarkeit und Rechenschaft. Wenn ein KI-System einen Kredit ablehnt oder eine Transaktion markiert, ist oft schwer nachvollziehbar, warum, was Compliance, Fehlersuche und das Vertrauen der Beteiligten erschwert.
Schliesslich entwickeln sich KI-Risiken fortlaufend weiter. Angreifer entwickeln neue Angriffe auf Modellschwachstellen, Vorschriften ändern sich, gesellschaftliche Erwartungen verschieben sich und die KI-Fähigkeiten schreiten voran. Risikomanagement muss anpassungsfähig statt statisch sein, mit kontinuierlicher Überwachung und regelmässiger Neubewertung im Rahmenwerk.
Organisationen wenden häufig klassische Risikorahmen auf KI an und wundern sich, warum kritische Probleme übersehen werden. Das Problem liegt darin, KI wie deterministische Software zu behandeln. Wirksames KI-Risikomanagement beginnt mit der Erkenntnis, dass sich KI-Systeme eher wie biologische Systeme verhalten: anpassungsfähig, kontextsensitiv und anfällig für unerwartete Fehlerarten.
Die gefährlichsten KI-Risiken sind keine technischen Ausfälle, sondern subtile Verschlechterungen, die sich mit der Zeit anhäufen: schleichender Bias, Concept Drift, Rückkopplungsschleifen, die Fehler verstärken. Sie erfordern Überwachungsstrategien, die sich grundlegend vom klassischen IT-Betrieb unterscheiden.
Browse all Cybersicherheit training courses
Sie lernen, Governance-Verantwortung und Rechenschaft für die Aufsicht über ein KI-Risikoprogramm zu beschreiben, Entscheidungspunkte mit Freigaben und dokumentierter Begründung zu erkennen, prüffähige Ergebnisse zu definieren sowie Rollen, Eskalationswege und ein belastbares Reporting festzulegen.
byLars ZIMMERMANN
Tag 1 behandelt KI-Risikogrundlagen; Tag 2 Kontext, Governance und Risikoerkennung; Tag 3 Analyse, Bewertung und Behandlung; Tag 4 Überwachung, Berichterstattung, Sensibilisierung und kontinuierliche Verbesserung.
byHenri HAENNI
Die Prüfung ist bereichsbasiert und deckt KI-Risikokonzepte und -Vorschriften, Governance, Erkennung und Analyse, Bewertung, Behandlung und Überwachung sowie organisationales Lernen und Leistungsverbesserung ab.
byTania POSTIL
Sie lernen, Governance-Verantwortung und Rechenschaft für die Aufsicht über ein KI-Risikoprogramm zu beschreiben, Entscheidungspunkte mit Freigaben und dokumentierter Begründung zu erkennen, prüffähige Ergebnisse zu definieren sowie Rollen, Eskalationswege und ein belastbares Reporting festzulegen.
Er richtet sich an Risikoverantwortliche, IT- und Sicherheitsteams, Daten- und KI-Fachleute, Beratende, Rechts- und Ethikberatende sowie Führungskräfte, die eine strategische Aufsicht über KI-Risiko brauchen.
Tag 1 behandelt KI-Risikogrundlagen; Tag 2 Kontext, Governance und Risikoerkennung; Tag 3 Analyse, Bewertung und Behandlung; Tag 4 Überwachung, Berichterstattung, Sensibilisierung und kontinuierliche Verbesserung.
Die Prüfung ist bereichsbasiert und deckt KI-Risikokonzepte und -Vorschriften, Governance, Erkennung und Analyse, Bewertung, Behandlung und Überwachung sowie organisationales Lernen und Leistungsverbesserung ab.
ISO/IEC 42006 änderte, wer zertifizieren darf, ISO 19011:2026 den Ablauf des Audits, und der Omnibus verschob die Fristen der KI-Verordnung. Was ein AIMS-Audit verlangt, Nachweis für Nachweis.
Ein praxisnaher Leitfaden für Führungskräfte zur Umsetzung von ISO 42001 als echtes KI-Governance-System: KI-Aufsicht strukturieren, Risiken steuern und mit der EU-Regulierung in Einklang bringen.
Browse all FAQs →
Full knowledge base
Notwendige Cookies sind immer aktiv. Sie können nicht wesentliche Cookies akzeptieren, ablehnen oder Ihre Einstellungen anpassen.