Es berücksichtigt Auswirkungen auf Menschen, Organisationen, Gesellschaft und Umwelt, einschließlich Sicherheits-, Safety-, Datenschutz-, Zuverlässigkeits-, Bias-, Verantwortlichkeits-, Rechts- und Geschäftsrisiken über den KI-Lebenszyklus hinweg.
Das AI Risk Management Framework des National Institute of Standards and Technology (NIST AI RMF) organisiert freiwillige Ergebnisse unter Govern, Map, Measure und Manage. Seine Ausgabe 1.0 bleibt das veröffentlichte Rahmenwerk, wird aber revidiert. Organisationen sollten Methoden an den Anwendungsfall, betroffene Parteien, verfügbare Nachweise, Risikotoleranz und anwendbare Pflichten anpassen.
Wichtigste Punkte
GovernVerantwortliche Eigentümer, Richtlinien, Entscheidungsrechte, Dokumentation, unabhängige Kritik, Vorfallwege, Lieferantenerwartungen und Kriterien für das Einschränken oder Stoppen eines Systems zuweisen.
Map und MeasureBeabsichtigte Nutzung und Kontext, betroffene Parteien, Abhängigkeiten, vorhersehbaren Missbrauch, Unsicherheit, Metriken, Testbedingungen, Grenzen und Veränderungen von Entwicklung zu Betrieb definieren.
Kontinuierlich managenRisiken priorisieren, Behandlung implementieren und verifizieren, Leistung und Auswirkungen überwachen, Vorfälle und Beschwerden behandeln, wesentliche Änderungen neu bewerten und Systeme sicher ausmustern.
Wichtige EinschränkungEin Rahmenwerk, Score, Benchmark oder eine Model Card kann nicht beweisen, dass ein KI-System vertrauenswürdig oder akzeptabel ist. Messungen sind unvollständig und kontextabhängig, während Schäden und Interaktionen erst nach der Bereitstellung auftreten können.