# Čo je správa rizík AI?

> Správa rizika umelej inteligencie (AI) je koordinovaný proces identifikovania, hodnotenia, spracovania, monitorovania a komunikovania rizík vyplývajúcich z návrhu, vývoja, obstarávania, nasadenia, použitia a vyradenia systémov AI.

- Kanonická URL: https://yellowcube.eu/sk/glossary/ai-risk-management/
- Vydavateľ: Yellow Cube
- Jazyk: sk
- Kontakt: hello@yellowcube.eu

## Obsah

Zvažuje efekty na ľudí, organizácie, spoločnosť a prostredie, vrátane rizík bezpečnosti, bezpečnosti osôb, súkromia, spoľahlivosti, skreslenia, zodpovednosti, právnych a podnikových rizík naprieč životným cyklom AI.

Rámec riadenia rizika AI National Institute of Standards and Technology (NIST AI RMF) organizuje dobrovoľné výstupy pod Govern, Map, Measure a Manage. Jeho edícia 1.0 zostáva publikovaným rámcom, ale je revidovaná. Organizácie majú adaptovať metódy na použitie, dotknuté strany, dostupné dôkazy, toleranciu rizika a uplatniteľné povinnosti.

### Kľúčové body

- **Govern (riadenie):** Priradiť zodpovedných vlastníkov, politiky, rozhodovacie práva, dokumentáciu, nezávislú výzvu, cesty incidentov, očakávania dodávateľov a kritériá pre obmedzenie alebo zastavenie systému.
- **Map and Measure (mapovanie a meranie):** Definovať zamýšľané použitie a kontext, dotknuté strany, závislosti, predvídateľné zneužitie, neistotu, metriky, testovacie podmienky, limity a zmeny od vývoja k prevádzke.
- **Manage (priebežná správa):** Prioritizovať riziká, implementovať a verifikovať spracovanie, monitorovať výkon a dopady, spracovať incidenty a odvolania, prehodnocovať materiálne zmeny a vyradzovať systémy bezpečne.
- **Dôležité obmedzenie:** Rámec, skóre, benchmark ani model card nedokáže dokázať, že systém AI je dôveryhodný alebo prijateľný. Merania sú neúplné a kontextovo závislé, zatiaľ čo škody a interakcie môžu vzniknúť po nasadení.

### Súvisiace pojmy

[Bezpečnosť AI](<https://yellowcube.eu/sk/glossary/ai-security/>) · [AI red teaming](<https://yellowcube.eu/sk/glossary/ai-red-teaming/>) · [Riadenie údajov (data governance)](<https://yellowcube.eu/sk/glossary/data-governance/>) · [Model poisoning](<https://yellowcube.eu/sk/glossary/model-poisoning/>) · [Data poisoning](<https://yellowcube.eu/sk/glossary/data-poisoning/>) · [Riadenie AI (AI governance)](<https://yellowcube.eu/sk/glossary/ai-governance/>) · [Zákon o umelej inteligencii (AI Act)](<https://yellowcube.eu/sk/glossary/artificial-intelligence-act/>)

### Zdroje

[NIST, AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework) · [NIST AI 100-1, Artificial Intelligence Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST, AI RMF Playbook](https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook)

## Uvedenie zdroja a rozsah

Táto verzia Markdown sa generuje z rovnakých schválených záznamov ako kanonická stránka HTML. Pri citovaní použite kanonickú URL.