# Čo sú machine learning security operations (MLSecOps)?

> Machine learning security operations (MLSecOps) sú vznikajúca prax, ktorá integruje bezpečnostné zodpovednosti a kontroly do vývoja a operácií strojového učenia naprieč prípravou údajov, vývojom modelu, evaluáciou, vydaním, nasadením, monitorovaním, zmenou a vyradením.

- Kanonická URL: https://yellowcube.eu/sk/glossary/machine-learning-security-operations/
- Vydavateľ: Yellow Cube
- Jazyk: sk
- Kontakt: hello@yellowcube.eu

## Obsah

Štítok nemá univerzálnu štandardnú definíciu; užitočné implementácie kombinujú operácie strojového učenia, bezpečný vývoj, správa rizika AI a operačnú bezpečnosť skôr než pomenúvajú jediný tím alebo nástroj.

MLSecOps považuje datasety, kód, modely, prompty, konfigurácie, evaluačné artefakty, registre, pipeline, obsluhujúcu infraštruktúru a externé komponenty za riadené aktíva. Pridáva bezpečnostné testy a dôkazy do workflow dodávky, pričom udržiava produkčné monitorovanie, reakciu, obnovu a spätnú väzbu vývojárom a vlastníkom modelov.

### Kľúčové body

- **Ochrana životného cyklu:** Vytvoriť kontroly proveniencie a prístupu, izolovať build a evaluačné prostredia, skenovať závislosti, podpisovať artefakty, chrániť registre a oddeliť povinnosti pre schvaľovanie a vydanie.
- **Hodnotenie hrozieb:** Hodnotiť otrávenie, eváziu, extrakciu, únik súkromia, nebezpečné výstupy, kompromitáciu závislostí, nadmerný prístup nástrojov a zneužitie v realistických systémových a používateľských kontextoch.
- **Operácie a reakcia:** Monitorovať drift údajov a modelu, zneužitie, anomálny prístup, výkon a bezpečnostné signály; zachovávať dôkazy; podporovať rollback, zrušenie, reakciu na incidenty a bezpečné vyradenie.
- **Dôležité obmedzenie:** Pridanie bezpečnostných brán do pipeline MLOps nerobí systém AI bezpečným ani dôveryhodným. Neznáme módy zlyhania, slabé evaluácie, kompromitované údaje, nebezpečná aplikačná logika a post-nasadenie kontext môžu obísť kontroly pipeline.

### Súvisiace pojmy

[DevSecOps](<https://yellowcube.eu/sk/glossary/devsecops/>) · [Bezpečnosť AI](<https://yellowcube.eu/sk/glossary/ai-security/>) · [Bezpečnosť pipeline CI/CD](<https://yellowcube.eu/sk/glossary/continuous-integration-and-continuous-delivery-or-deployment-pipeline-security/>) · [Data poisoning](<https://yellowcube.eu/sk/glossary/data-poisoning/>) · [Model poisoning](<https://yellowcube.eu/sk/glossary/model-poisoning/>)

### Zdroje

[NIST SP 800-218A, Secure Software Development Practices for Generative AI and Dual-Use Foundation Models](https://csrc.nist.gov/pubs/sp/800/218/a/final) · [NIST, Secure Software Development Framework](https://csrc.nist.gov/projects/ssdf) · [NIST, AI RMF Playbook](https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook)

## Uvedenie zdroja a rozsah

Táto verzia Markdown sa generuje z rovnakých schválených záznamov ako kanonická stránka HTML. Pri citovaní použite kanonickú URL.