Sie beantwortet, wer KI-Anwendungsfälle genehmigen darf, welche Modelle und Daten zulässig sind, welche Tests und menschliche Aufsicht erforderlich sind, wie mit Shadow AI umgegangen wird und wie Vorfälle eskaliert werden. Rahmenwerke wie das NIST AI Risk Management Framework strukturieren sie als Govern–Map–Measure–Manage; Gesetze wie der EU AI Act machen Teile davon zunehmend zur rechtlichen Pflicht.
Wichtigste Punkte
Inventar und Richtlinie zuerstErfassen, welche KI-Systeme und -Funktionen im Einsatz sind — einschließlich eingebetteter KI in Anbieterwerkzeugen — und Nutzungsregeln festlegen, bevor die Risikobewertung beginnt.
Benannte System-EigentümerJedes bereitgestellte Modell braucht einen benannten Eigentümer für sein Risiko, seine Leistung, Daten und Außerbetriebnahme — keine diffuse Komitee-Verantwortung.
Wichtige EinschränkungGovernance ist das Gerüst, nicht der Schutz. Eine Liste genehmigter Modelle und eine Richtlinienseite sichern kein Modell; der Wert entsteht aus den Kontrollen, Tests und dem Monitoring, die das Rahmenwerk verlangt, und aus der Durchsetzung dahinter.