# Mik a gépi tanulási biztonsági műveletek (MLSecOps)?

> A gépi tanulási biztonsági műveletek (MLSecOps) feltörekvő gyakorlat, amely a biztonsági felelősségeket és kontrollokat integrálja a gépi tanulási fejlesztésbe és üzemeltetésbe az adatelőkészítés, modellfejlesztés, értékelés, kiadás, bevetés, monitorozás, változás és kivonás során.

- Kanonikus URL: https://yellowcube.eu/hu/glossary/machine-learning-security-operations/
- Kiadó: Yellow Cube
- Nyelv: hu
- Kapcsolat: hello@yellowcube.eu

## Tartalom

A címkének nincs univerzális szabványdefiníciója; a hasznos megvalósítások a gépi tanulási műveleteket, biztonságos fejlesztést, AI-kockázatkezelést és üzemi biztonságot kombinálják ahelyett, hogy egyetlen csapatot vagy eszköz neveznének meg.

Az MLSecOps az adathalmazokat, kódot, modelleket, promptokat, konfigurációkat, értékelési artefaktumokat, regisztereket, pipeline-okat, kiszolgáló infrastruktúrát és külső komponenseket irányított eszközökként kezeli. Biztonsági teszteket és bizonyítékot ad a szállítási munkafolyamatokhoz, miközben fenntartja a termelési monitorozást, reagálást, helyreállítást és a fejlesztők és modelltulajdonosok felé irányuló visszajelzést.

### Legfontosabb pontok

- **Életciklus-védelem:** Hozzon létre eredet- és hozzáférés-kontrollokat, szigetelje a build- és értékelőkörnyezeteket, szkennelje a függőségeket, írja alá az artefaktumokat, védje a regisztereket, és válassza szét a jóváhagyási és kiadási feladatköröket.
- **Fenyegetésértékelés:** Értékelje a mérgezést, kitérő támadást, kinyerést, adatszivárgást, nem biztonságos kimeneteket, függőségkompromittálódást, túlzott eszközhozzáférést és visszaélést valós rendszer- és felhasználói kontextusban.
- **Üzemeltetés és reagálás:** Figyelje az adat- és modelldriftet, visszaélést, anomál hozzáférést, teljesítmény- és biztonsági jeleket; őrizze a bizonyítékot; támogassa a visszagörgetést, visszavonást, incidenskezelést és biztonságos kivonást.
- **Fontos korlát:** Ha biztonsági kapukat ad egy MLOps-pipeline-hoz, az nem teszi az AI-rendszert biztonságossá vagy megbízhatóvá. Az ismeretlen meghibásodási módok, gyenge értékelések, kompromittált adatok, nem biztonságos alkalmazáslogika és bevetés utáni kontextus kikerülheti a pipeline-ellenőrzéseket.

### Kapcsolódó kifejezések

[DevSecOps](<https://yellowcube.eu/hu/glossary/devsecops/>) · [AI-biztonság](<https://yellowcube.eu/hu/glossary/ai-security/>) · [CI/CD-pipeline biztonsága](<https://yellowcube.eu/hu/glossary/continuous-integration-and-continuous-delivery-or-deployment-pipeline-security/>) · [Adatmérgezés](<https://yellowcube.eu/hu/glossary/data-poisoning/>) · [Modellmérgezés](<https://yellowcube.eu/hu/glossary/model-poisoning/>)

### Források

[NIST SP 800-218A, Secure Software Development Practices for Generative AI and Dual-Use Foundation Models](https://csrc.nist.gov/pubs/sp/800/218/a/final) · [NIST, Secure Software Development Framework](https://csrc.nist.gov/projects/ssdf) · [NIST, AI RMF Playbook](https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook)

## Forrásmegjelölés és hatókör

Ez a Markdown-változat ugyanazokból a jóváhagyott tartalmi rekordokból készül, mint a kanonikus HTML-oldal. Hivatkozáskor a kanonikus URL-t használja.