# Was ist Machine Learning Security Operations (MLSecOps)?

> Machine Learning Security Operations (MLSecOps) ist eine aufkommende Praxis, die Sicherheitsverantwortlichkeiten und -kontrollen in Entwicklung und Betrieb maschinellen Lernens integriert — über Datenvorbereitung, Modellentwicklung, Evaluation, Release, Bereitstellung, Monitoring, Änderung und Außerbetriebnahme hinweg.

- Kanonische URL: https://yellowcube.eu/de/glossary/machine-learning-security-operations/
- Herausgeber: Yellow Cube
- Sprache: de
- Kontakt: hello@yellowcube.eu

## Inhalt

Das Label hat keine universelle Standarddefinition; nützliche Implementierungen verbinden Machine Learning Operations, sichere Entwicklung, AI Risk Management und Betriebssicherheit, statt ein einzelnes Team oder Werkzeug zu benennen.

MLSecOps behandelt Datensätze, Code, Modelle, Prompts, Konfigurationen, Evaluationsartefakte, Registries, Pipelines, Serving-Infrastruktur und externe Komponenten als gesteuerte Assets. Es ergänzt Liefer-Workflows um Sicherheitstests und Nachweise, während es Produktions-Monitoring, Reaktion, Wiederherstellung und Rückmeldung an Entwickler und Modelleigentümer aufrechterhält.

### Wichtigste Punkte

- **Lebenszyklusschutz:** Provenance- und Zugriffskontrollen etablieren, Build- und Evaluationsumgebungen isolieren, Abhängigkeiten scannen, Artefakte signieren, Registries schützen und Aufgaben für Freigabe und Release trennen.
- **Bedrohungsevaluation:** Poisoning, Evasion, Extraktion, Privacy-Lecks, unsichere Outputs, kompromittierte Abhängigkeiten, übermäßigen Werkzeugzugriff und Missbrauch unter realistischen System- und Nutzerkontexten bewerten.
- **Betrieb und Reaktion:** Daten- und Modelldrift, Missbrauch, anomalen Zugriff sowie Leistungs- und Sicherheitssignale überwachen; Nachweise sichern; Rollback, Sperrung, Incident Response und sichere Außerbetriebnahme unterstützen.
- **Wichtige Einschränkung:** Sicherheits-Gates in eine MLOps-Pipeline einzubauen macht ein KI-System weder sicher noch vertrauenswürdig. Unbekannte Fehlermodi, schwache Evaluationen, kompromittierte Daten, unsichere Anwendungslogik und Kontext nach der Bereitstellung können Pipeline-Prüfungen umgehen.

### Verwandte Begriffe

[DevSecOps](<https://yellowcube.eu/de/glossary/devsecops/>) · [AI Security](<https://yellowcube.eu/de/glossary/ai-security/>) · [Continuous Integration and Continuous Delivery or Deployment (CI/CD) Pipeline Security](<https://yellowcube.eu/de/glossary/continuous-integration-and-continuous-delivery-or-deployment-pipeline-security/>) · [Data Poisoning](<https://yellowcube.eu/de/glossary/data-poisoning/>) · [Model Poisoning](<https://yellowcube.eu/de/glossary/model-poisoning/>)

### Quellen

[NIST SP 800-218A, Secure Software Development Practices for Generative AI and Dual-Use Foundation Models](https://csrc.nist.gov/pubs/sp/800/218/a/final) · [NIST, Secure Software Development Framework](https://csrc.nist.gov/projects/ssdf) · [NIST, AI RMF Playbook](https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook)

## Quellenangabe und Geltungsbereich

Diese Markdown-Darstellung wird aus denselben freigegebenen Inhalten wie die kanonische HTML-Seite erzeugt. Verwenden Sie beim Zitieren die kanonische URL.