# Co je otrávení dat?

> Otrávení dat (data poisoning) je útok ve fázi trénování, v němž protivník vkládá, maže, mění či přeoznačuje data používaná k trénování či adaptaci modelu strojového učení.

- Kanonická URL: https://yellowcube.eu/cs/glossary/data-poisoning/
- Vydavatel: Yellow Cube
- Jazyk: cs
- Kontakt: hello@yellowcube.eu

## Obsah

Proces učení absorbuje manipulaci, která může snížit celkový výkon, vychýlit cílené rozhodnutí či vytvořit backdoor aktivující se, když se objeví zvolený spouštěč. Útočník může kompromitovat datový zdroj, sběrnou pipeline, proces anotace, smyčku zpětné vazby či repozitář datasetu.

Termín se primárně týká dat, která ovlivňují učení, včetně pretrainingu, doladění a datasetů posilování či zpětné vazby. Manipulace retrieval zdroje v čase inference je obvykle přesněji popsána jako otrava retrieval-augmented generation či otrava znalostní báze; korumpování evaluační sady může zneplatnit assurance, i když nemění nasazený model.

### Klíčové body

- **Lineage dat:** Zaznamenávejte původ, metodu sběru, licenci, transformace, labely, verze, schválení a modely či experimenty, které každý dataset konzumovaly.
- **Preventivní kontroly:** Omezujte a auditujte zápisový přístup, oddělujte důvěryhodná evaluační data, autentizujte schválené revize, chraňte pipeline a repozitáře a hodnoťte externě získaná či uživatelsky přispěná data.
- **Detekce:** Používejte statistický a sémantický přezkum, analýzu duplikátů a outlierů, cílené vzorkování, srovnání zdrojů a testy podezřelých spouštěčů či koncentrovaného vlivu.
- **Obnova:** Uchovejte důkazy, identifikujte dotčená data a odvozené modely, vraťte se k důvěryhodné verzi datasetu, přetrénujte tam, kde je to nutné, a uzavřete slabost ingestu či autorizace.
- **Důležité omezení:** Otrávené příklady mohou vypadat legitimně a malá, pečlivě zvolená podmnožina může být vlivná. Čištění dat snižuje expozici, ale nemůže certifikovat, že dataset je neškodný; nekvalitní či nereprezentativní data bez adversariálního záměru jsou problém kvality dat, nikoli otrava.

### Související termíny

[Otrávení modelu](<https://yellowcube.eu/cs/glossary/model-poisoning/>) · [Bezpečnostní operace strojového učení (MLSecOps)](<https://yellowcube.eu/cs/glossary/machine-learning-security-operations/>) · [Adversariální strojové učení](<https://yellowcube.eu/cs/glossary/adversarial-machine-learning/>)

### Zdroje

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [NSA and partners, AI Data Security](https://www.nsa.gov/Press-Room/Press-Releases-Statements/Press-Release-View/Article/4192332/nsas-aisc-releases-joint-guidance-on-the-risks-and-best-practices-in-ai-data-se/) · [MITRE ATLAS](https://atlas.mitre.org/)

## Pojďme budovat chytřejší kybernetickou obranu Společně

Dlouhodobá partnerství stavíme na důvěře, odbornosti a společném úspěchu. Ať chcete rozvíjet své podnikání, rozšířit nabídku kybernetické bezpečnosti nebo uvést inovativní řešení na nové trhy, v Yellow Cube najdete spolehlivého partnera.

[Spojte se s Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Uvedení zdroje a rozsah

Tato verze Markdown vzniká ze stejných schválených záznamů jako kanonická stránka HTML. Při citování použijte kanonickou adresu.