# Mi az AI-kockázatkezelés?

> A mesterségesintelligencia- (AI-) kockázatkezelés az AI-rendszerek tervezéséből, fejlesztéséből, beszerzéséből, bevetéséből, használatából és kivonásából fakadó kockázatok azonosításának, értékelésének, kezelésének, monitorozásának és közlésének koordinált folyamata.

- Kanonikus URL: https://yellowcube.eu/hu/glossary/ai-risk-management/
- Kiadó: Yellow Cube
- Nyelv: hu
- Kapcsolat: hello@yellowcube.eu

## Tartalom

Figyelembe veszi az emberekre, szervezetekre, társadalomra és környezetre gyakorolt hatásokat — beleértve a biztonsági, munkabiztonsági, adatvédelmi, megbízhatósági, torzítási, elszámoltathatósági, jogi és üzleti kockázatokat az AI-életcikluson át.

A National Institute of Standards and Technology AI Risk Management Framework-je (NIST AI RMF) az önkéntes eredményeket a Govern, Map, Measure és Manage alatt szervezi. Az 1.0-s kiadása marad a közzétett keretrendszer, de felülvizsgálat alatt áll. A szervezeteknek a módszereket a felhasználási esethez, érintett felekhez, rendelkezésre álló bizonyítékokhoz, kockázattűréshez és alkalmazandó kötelezettségekhez kell igazítaniuk.

### Legfontosabb pontok

- **Govern:** Rendeljen elszámoltatható tulajdonosokat, szabályzatokat, döntési jogokat, dokumentációt, független megkérdőjelezést, incidensútvonalakat, beszállítói elvárásokat, és kritériumokat a rendszer korlátozására vagy leállítására.
- **Feltérképezés és mérés (Map, Measure):** Határozza meg a szándékolt felhasználást és kontextust, érintett feleket, függőségeket, előrelátható visszaélést, bizonytalanságot, metrikákat, tesztfeltételeket, korlátokat és a fejlesztésből üzembe álláskori változásokat.
- **Folyamatos kezelés (Manage):** Priorizálja a kockázatokat, valósítsa meg és ellenőrizze a kezelést, figyelje a teljesítményt és hatásokat, kezelje az incidenseket és fellebbezéseket, értékelje újra a lényeges változásokat, és vonja ki a rendszereket biztonságosan.
- **Fontos korlát:** Egy keretrendszer, pontszám, benchmark vagy modellkártya nem bizonyíthatja, hogy egy AI-rendszer megbízható vagy elfogadható. A mérések hiányosak és kontextusfüggők, a károk és kölcsönhatások pedig a bevetés után is kialakulhatnak.

### Kapcsolódó kifejezések

[AI-biztonság](<https://yellowcube.eu/hu/glossary/ai-security/>) · [AI red teaming](<https://yellowcube.eu/hu/glossary/ai-red-teaming/>) · [Adatirányítás](<https://yellowcube.eu/hu/glossary/data-governance/>) · [Modellmérgezés](<https://yellowcube.eu/hu/glossary/model-poisoning/>) · [Adatmérgezés](<https://yellowcube.eu/hu/glossary/data-poisoning/>) · [AI-irányítás](<https://yellowcube.eu/hu/glossary/ai-governance/>) · [Mesterséges intelligenciáról szóló rendelet (AI Act)](<https://yellowcube.eu/hu/glossary/artificial-intelligence-act/>)

### Források

[NIST, AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework) · [NIST AI 100-1, Artificial Intelligence Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST, AI RMF Playbook](https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook)

## Forrásmegjelölés és hatókör

Ez a Markdown-változat ugyanazokból a jóváhagyott tartalmi rekordokból készül, mint a kanonikus HTML-oldal. Hivatkozáskor a kanonikus URL-t használja.