# Co je bezpečnost AI?

> Bezpečnost AI (AI security) je disciplína ochrany systémů umělé inteligence a prostředí kolem nich před škodlivou manipulací, neautorizovaným přístupem, zpřístupněním, krádeží a narušením.

- Kanonická URL: https://yellowcube.eu/cs/glossary/ai-security/
- Vydavatel: Yellow Cube
- Jazyk: cs
- Kontakt: hello@yellowcube.eu

## Obsah

Její rozsah zahrnuje trénovací a evaluační data, modely a váhy, kód, prompty, retrieval úložiště, vývojové pipeline, identity, infrastrukturu, rozhraní, připojené nástroje a rozhodnutí či akce, které aplikace využívající AI může produkovat.

Práce rozšiřuje zavedené praktiky kybernetické bezpečnosti napříč životním cyklem AI při řešení útočných cest vytvořených či zesílených strojovým učením. Kvalitní program začíná účelem systému, aktivy, aktéry a hranicemi důvěry, poté vybírá kontroly podle realistických důsledků. Chrání důvěrnost, integritu a dostupnost bez předpokladu, že dobře fungující model či reputabilní poskytovatel činí kompletní aplikaci bezpečnou.

### Klíčové body

- **Rozsah životního cyklu:** Hodnoťte akvizici, přípravu dat, trénování či přizpůsobení, evaluaci, nasazení, provoz, změny, reakci na incidenty a vyřazení — nikoli pouze veřejný endpoint modelu.
- **Jádrové kontroly:** Udržujte inventář aktiv; verifikujte provenienci; aplikujte nejmenší oprávnění, bezpečný vývoj a kontroly dodavatelského řetězce; izolujte citlivé prostředky; validujte výstupy před použitím; a monitorujte konvenční i AI-specifické zneužití.
- **Důkazy assurance:** Kombinujte modelování hrozeb, bezpečnostní testování, adversariální evaluaci, přezkum přístupu a konfigurace, incidentní cvičení, monitorování a retestování po podstatných změnách.
- **Důležité omezení:** Bezpečnost AI není synonymum pro AI safety či celkovou důvěryhodnost. Systém může odolávat útočníkům a přesto být nepřesný, nespravedlivý, nebezpečný ve svém zamýšleném kontextu či špatně řízený a žádná jediná brána či skener nepokrývá celé riziko.

### Související termíny

[Adversariální strojové učení](<https://yellowcube.eu/cs/glossary/adversarial-machine-learning/>) · [Red teaming AI](<https://yellowcube.eu/cs/glossary/ai-red-teaming/>) · [Prompt injection](<https://yellowcube.eu/cs/glossary/prompt-injection/>) · [Řízení rizik AI](<https://yellowcube.eu/cs/glossary/ai-risk-management/>) · [AI v kybernetické bezpečnosti](<https://yellowcube.eu/cs/glossary/ai-in-cybersecurity/>) · [Zabezpečení od návrhu](<https://yellowcube.eu/cs/glossary/secure-by-design/>) · [Bezpečnostní operace strojového učení (MLSecOps)](<https://yellowcube.eu/cs/glossary/machine-learning-security-operations/>) · [Řízení AI](<https://yellowcube.eu/cs/glossary/ai-governance/>)

### Zdroje

[NSA Artificial Intelligence Security Center](https://www.nsa.gov/AISC/) · [NIST AI Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST AI 600-1, Generative AI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)

## Pojďme budovat chytřejší kybernetickou obranu Společně

Dlouhodobá partnerství stavíme na důvěře, odbornosti a společném úspěchu. Ať chcete rozvíjet své podnikání, rozšířit nabídku kybernetické bezpečnosti nebo uvést inovativní řešení na nové trhy, v Yellow Cube najdete spolehlivého partnera.

[Spojte se s Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Uvedení zdroje a rozsah

Tato verze Markdown vzniká ze stejných schválených záznamů jako kanonická stránka HTML. Při citování použijte kanonickou adresu.