# Was ist AI Risk Management?

> Artificial-Intelligence-Risikomanagement (AI Risk Management) ist der koordinierte Prozess des Identifizierens, Bewertens, Behandelns, Überwachens und Kommunizierens von Risiken, die aus Design, Entwicklung, Beschaffung, Bereitstellung, Nutzung und Außerbetriebnahme von KI-Systemen entstehen.

- Kanonische URL: https://yellowcube.eu/de/glossary/ai-risk-management/
- Herausgeber: Yellow Cube
- Sprache: de
- Kontakt: hello@yellowcube.eu

## Inhalt

Es berücksichtigt Auswirkungen auf Menschen, Organisationen, Gesellschaft und Umwelt, einschließlich Sicherheits-, Safety-, Datenschutz-, Zuverlässigkeits-, Bias-, Verantwortlichkeits-, Rechts- und Geschäftsrisiken über den KI-Lebenszyklus hinweg.

Das AI Risk Management Framework des National Institute of Standards and Technology (NIST AI RMF) organisiert freiwillige Ergebnisse unter Govern, Map, Measure und Manage. Seine Ausgabe 1.0 bleibt das veröffentlichte Rahmenwerk, wird aber revidiert. Organisationen sollten Methoden an den Anwendungsfall, betroffene Parteien, verfügbare Nachweise, Risikotoleranz und anwendbare Pflichten anpassen.

### Wichtigste Punkte

- **Govern:** Verantwortliche Eigentümer, Richtlinien, Entscheidungsrechte, Dokumentation, unabhängige Kritik, Vorfallwege, Lieferantenerwartungen und Kriterien für das Einschränken oder Stoppen eines Systems zuweisen.
- **Map und Measure:** Beabsichtigte Nutzung und Kontext, betroffene Parteien, Abhängigkeiten, vorhersehbaren Missbrauch, Unsicherheit, Metriken, Testbedingungen, Grenzen und Veränderungen von Entwicklung zu Betrieb definieren.
- **Kontinuierlich managen:** Risiken priorisieren, Behandlung implementieren und verifizieren, Leistung und Auswirkungen überwachen, Vorfälle und Beschwerden behandeln, wesentliche Änderungen neu bewerten und Systeme sicher ausmustern.
- **Wichtige Einschränkung:** Ein Rahmenwerk, Score, Benchmark oder eine Model Card kann nicht beweisen, dass ein KI-System vertrauenswürdig oder akzeptabel ist. Messungen sind unvollständig und kontextabhängig, während Schäden und Interaktionen erst nach der Bereitstellung auftreten können.

### Verwandte Begriffe

[AI Security](<https://yellowcube.eu/de/glossary/ai-security/>) · [AI Red Teaming](<https://yellowcube.eu/de/glossary/ai-red-teaming/>) · [Data Governance](<https://yellowcube.eu/de/glossary/data-governance/>) · [Model Poisoning](<https://yellowcube.eu/de/glossary/model-poisoning/>) · [Data Poisoning](<https://yellowcube.eu/de/glossary/data-poisoning/>) · [AI Governance](<https://yellowcube.eu/de/glossary/ai-governance/>) · [Artificial Intelligence Act (AI Act)](<https://yellowcube.eu/de/glossary/artificial-intelligence-act/>)

### Quellen

[NIST, AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework) · [NIST AI 100-1, Artificial Intelligence Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST, AI RMF Playbook](https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook)

## Quellenangabe und Geltungsbereich

Diese Markdown-Darstellung wird aus denselben freigegebenen Inhalten wie die kanonische HTML-Seite erzeugt. Verwenden Sie beim Zitieren die kanonische URL.