Das NIST AI Risk Management Framework (AI RMF) ist ein Leitfaden des National Institute of Standards and Technology (NIST) zur Steuerung von Risiken im Zusammenhang mit Künstlicher Intelligenz. Es richtet sich an Organisationen, die KI-Systeme entwickeln, einsetzen oder betreiben.
Das Framework verfolgt das Ziel, vertrauenswürdige KI zu fördern. Dazu gehören Eigenschaften wie:
- Sicherheit
- Zuverlässigkeit
- Fairness
- Transparenz
- Datenschutz
- Verantwortlichkeit
Das AI RMF ist nicht regulatorisch, sondern eine freiwillige Orientierung. Es strukturiert das Risikomanagement in vier zentrale Funktionen:
- Govern – organisatorische Steuerung und Verantwortlichkeiten
- Map – Kontext und Risiken eines KI-Systems verstehen
- Measure – Risiken analysieren und bewerten
- Manage – Risiken behandeln und überwachen
Das Framework unterstützt Organisationen bei der Integration von KI-Risikomanagement in bestehende Prozesse, etwa im Bereich IT-Sicherheit, Qualität oder Compliance.
Beispiel:
Ein Unternehmen nutzt das NIST AI RMF, um Risiken wie Bias in Trainingsdaten oder Fehlentscheidungen eines KI-Systems systematisch zu analysieren und zu kontrollieren.
