# Co je adversariální strojové učení?

> Adversariální strojové učení (adversarial machine learning) je obor zabývající se útoky, které zneužívají systémy strojového učení, a metodami pro pochopení a zmírnění těchto útoků.

- Kanonická URL: https://yellowcube.eu/cs/glossary/adversarial-machine-learning/
- Vydavatel: Yellow Cube
- Jazyk: cs
- Kontakt: hello@yellowcube.eu

## Obsah

Zkoumá, jak protivník může ovlivnit data, modely, vstupy, výstupy či okolní workflow, aby porušil cíle důvěrnosti, integrity, dostupnosti či přijatelného použití. Je to soubor znalostí útoku a obrany, nikoli název jednoho konkrétního exploitu.

Současná taxonomie NIST organizuje útoky pomocí dimenzí jako fáze životního cyklu, cíl protivníka, účel, schopnost a znalost. Relevantní rodiny zahrnují evazi v čase inference, otravu během trénování, útoky na soukromí a zneužití generativních systémů skrze promptování či misuse. Skutečné systémy také dědí konvenční slabiny v identitách, API, softwaru, cloudových službách a dodavatelských řetězcích, takže hodnocení adversariálního ML by mělo propojovat chování modelu s kompletní aplikací.

### Klíčové body

- **Fáze útoku:** Určete, zda protivník může ovlivnit sběr dat, trénování, distribuci modelu, nasazení, vstupy inference, retrieval, zpětnou vazbu či připojené akce.
- **Podmínky protivníka:** Uveďte, jaký přístup, znalost, kontrolu, zdroje a příležitosti dotazů útok předpokládá; výsledek pod plným přístupem k modelu nemusí přenášet na vzdálenou službu.
- **Bezpečnostní cíle:** Hodnoťte selhání dostupnosti, necílená či cílená porušení integrity, ztrátu soukromí, krádež modelu a zneužití vůči důsledkům smysluplným pro nasazený kontext.
- **Obranná praxe:** Kombinujte evaluaci na úrovni modelu s proveniencí, řízením přístupu, bezpečným inženýrstvím, monitorováním, reakcí na incidenty a omezeními na downstream rozhodnutí či akce.
- **Důležité omezení:** Robustnost vůči známému benchmarku či metodě útoku není obecná bezpečnost. Útočníci se přizpůsobují, výzkumné předpoklady se liší a kontroly zlepšující jednu vlastnost mohou zanechat aplikační či lidské hranice důvěry exponované.

### Související termíny

[Bezpečnost AI](<https://yellowcube.eu/cs/glossary/ai-security/>) · [Otrávení dat](<https://yellowcube.eu/cs/glossary/data-poisoning/>) · [Otrávení modelu](<https://yellowcube.eu/cs/glossary/model-poisoning/>) · [Prompt injection](<https://yellowcube.eu/cs/glossary/prompt-injection/>) · [Red teaming AI](<https://yellowcube.eu/cs/glossary/ai-red-teaming/>)

### Zdroje

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [NIST AI Security and Resilience](https://www.nist.gov/artificial-intelligence/ai-research-security-and-resilience) · [MITRE ATLAS](https://atlas.mitre.org/)

## Pojďme budovat chytřejší kybernetickou obranu Společně

Dlouhodobá partnerství stavíme na důvěře, odbornosti a společném úspěchu. Ať chcete rozvíjet své podnikání, rozšířit nabídku kybernetické bezpečnosti nebo uvést inovativní řešení na nové trhy, v Yellow Cube najdete spolehlivého partnera.

[Spojte se s Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Uvedení zdroje a rozsah

Tato verze Markdown vzniká ze stejných schválených záznamů jako kanonická stránka HTML. Při citování použijte kanonickou adresu.