# Čo je bezpečnosť AI?

> Bezpečnosť AI je disciplína ochrany systémov umelej inteligencie a prostredí okolo nich pred škodlivou manipuláciou, neautorizovaným prístupom, zverejnením, krádežou a narušením.

- Kanonická URL: https://yellowcube.eu/sk/glossary/ai-security/
- Vydavateľ: Yellow Cube
- Jazyk: sk
- Kontakt: hello@yellowcube.eu

## Obsah

Jej rozsah zahŕňa tréningové a evaluačné údaje, modely a váhy, kód, prompty, úložiská získavania, vývojové pipeline, identity, infraštruktúru, rozhrania, pripojené nástroje a rozhodnutia alebo akcie, ktoré aplikácia vybavená AI dokáže produkovať.

Práca rozširuje etablované praktiky kybernetickej bezpečnosti naprieč životným cyklom AI, pričom adresuje útočné cesty vytvorené alebo amplifikované strojovým učením. Zdravý program začína účelom systému, aktívami, aktérmi a hranicami dôvery, potom vyberá kontroly podľa realistických dôsledkov. Chráni dôvernosť, integritu a dostupnosť bez predpokladania, že dobre fungujúci model alebo renomovaný poskytovateľ robí kompletnú aplikáciu bezpečnou.

### Kľúčové body

- **Rozsah životného cyklu:** Hodnotiť obstarávanie, prípravu údajov, tréning alebo prispôsobenie, evaluáciu, nasadenie, prevádzku, zmenu, reakciu na incidenty a vyradenie — nie len verejný endpoint modelu.
- **Jadrové kontroly:** Udržiavať inventár aktív; verifikovať provenienciu; uplatniť najmenšie oprávnenia, bezpečný vývoj a kontroly dodávateľského reťazca; izolovať citlivé zdroje; validovať výstupy pred použitím; a monitorovať konvenčné aj AI-špecifické zneužitie.
- **Dôkazy assurance:** Kombinovať modelovanie hrozieb, bezpečnostné testovanie, adverzívnu evaluáciu, kontrolu prístupu a konfigurácie, cvičenia incidentov, monitorovanie a retestovanie po materiálnych zmenách.
- **Dôležité obmedzenie:** Bezpečnosť AI nie je synonymum pre bezpečnosť osôb AI (AI safety) ani celkovú dôveryhodnosť. Systém môže odolať útočníkom a napriek tomu byť nepresný, nespravodlivý, nebezpečný vo svojom zamýšľanom kontexte alebo zle riadený a žiadna jediná brána ani skener nepokrýva plné riziko.

### Súvisiace pojmy

[Adverziálne strojové učenie](<https://yellowcube.eu/sk/glossary/adversarial-machine-learning/>) · [AI red teaming](<https://yellowcube.eu/sk/glossary/ai-red-teaming/>) · [Prompt injection](<https://yellowcube.eu/sk/glossary/prompt-injection/>) · [Správa rizík AI](<https://yellowcube.eu/sk/glossary/ai-risk-management/>) · [AI v kybernetickej bezpečnosti](<https://yellowcube.eu/sk/glossary/ai-in-cybersecurity/>) · [Secure by design](<https://yellowcube.eu/sk/glossary/secure-by-design/>) · [Machine learning security operations (MLSecOps)](<https://yellowcube.eu/sk/glossary/machine-learning-security-operations/>) · [Riadenie AI (AI governance)](<https://yellowcube.eu/sk/glossary/ai-governance/>)

### Zdroje

[NSA Artificial Intelligence Security Center](https://www.nsa.gov/AISC/) · [NIST AI Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST AI 600-1, Generative AI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)

## Uvedenie zdroja a rozsah

Táto verzia Markdown sa generuje z rovnakých schválených záznamov ako kanonická stránka HTML. Pri citovaní použite kanonickú URL.