# Co je řízení rizik AI?

> Řízení rizik AI (AI risk management) je koordinovaný proces identifikace, hodnocení, ošetření, monitorování a komunikace rizik vyplývajících z návrhu, vývoje, akvizice, nasazení, použití a vyřazení systémů AI.

- Kanonická URL: https://yellowcube.eu/cs/glossary/ai-risk-management/
- Vydavatel: Yellow Cube
- Jazyk: cs
- Kontakt: hello@yellowcube.eu

## Obsah

Zvažuje účinky na lidi, organizace, společnost a životní prostředí, včetně bezpečnosti, bezpečnosti osob, soukromí, spolehlivosti, biasu, odpovědnosti, právních a podnikových rizik napříč životním cyklem AI.

AI Risk Management Framework NIST (NIST AI RMF) organizuje dobrovolné výstupy pod Govern, Map, Measure a Manage. Jeho edice 1.0 zůstává publikovaným rámcem, ale je revidována. Organizace by měly přizpůsobovat metody případu použití, dotčeným stranám, dostupným důkazům, toleranci rizika a platným povinnostem.

### Klíčové body

- **Govern:** Přiřaďte odpovědné vlastníky, politiky, rozhodovací práva, dokumentaci, nezávislou výzvu, incidentní cesty, očekávání dodavatelů a kritéria pro omezení či zastavení systému.
- **Map a measure:** Definujte zamýšlené použití a kontext, dotčené strany, závislosti, předvídatelné zneužití, nejistotu, metriky, testovací podmínky, omezení a změny z vývoje do provozu.
- **Manage kontinuálně:** Prioritizujte rizika, implementujte a verifikujte ošetření, monitorujte výkon a dopady, nakládejte s incidenty a odvoláními, přehodnoťte podstatné změny a vyřazujte systémy bezpečně.
- **Důležité omezení:** Rámec, skóre, benchmark či karta modelu nedokáže dokázat, že systém AI je důvěryhodný či přijatelný. Měření jsou neúplná a závislá na kontextu, zatímco škody a interakce se mohou objevit po nasazení.

### Související termíny

[Bezpečnost AI](<https://yellowcube.eu/cs/glossary/ai-security/>) · [Red teaming AI](<https://yellowcube.eu/cs/glossary/ai-red-teaming/>) · [Správa dat](<https://yellowcube.eu/cs/glossary/data-governance/>) · [Otrávení modelu](<https://yellowcube.eu/cs/glossary/model-poisoning/>) · [Otrávení dat](<https://yellowcube.eu/cs/glossary/data-poisoning/>) · [Řízení AI](<https://yellowcube.eu/cs/glossary/ai-governance/>) · [Nařízení o umělé inteligenci (AI Act)](<https://yellowcube.eu/cs/glossary/artificial-intelligence-act/>)

### Zdroje

[NIST, AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework) · [NIST AI 100-1, Artificial Intelligence Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST, AI RMF Playbook](https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook)

## Pojďme budovat chytřejší kybernetickou obranu Společně

Dlouhodobá partnerství stavíme na důvěře, odbornosti a společném úspěchu. Ať chcete rozvíjet své podnikání, rozšířit nabídku kybernetické bezpečnosti nebo uvést inovativní řešení na nové trhy, v Yellow Cube najdete spolehlivého partnera.

[Spojte se s Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Uvedení zdroje a rozsah

Tato verze Markdown vzniká ze stejných schválených záznamů jako kanonická stránka HTML. Při citování použijte kanonickou adresu.