# Czym jest zatruwanie danych?

> Zatruwanie danych (data poisoning) to atak etapu treningu, w którym przeciwnik wstawia, usuwa, zmienia lub przeznacza etykiety danych używanych do trenowania lub adaptacji modelu uczenia maszynowego.

- Kanoniczny adres URL: https://yellowcube.eu/pl/glossary/data-poisoning/
- Wydawca: Yellow Cube
- Język: pl
- Kontakt: hello@yellowcube.eu

## Treść

Proces uczenia wchłania manipulację, która może redukować ogólną wydajność, stronniczo zmieniać ukierunkowaną decyzję lub tworzyć backdoor aktywowany, gdy pojawi się wybrany wyzwalacz. Atakujący może skompromitować źródło danych, potok zbierania, proces adnotacji, pętlę informacji zwrotnej lub repozytorium zbiorów danych.

Termin dotyczy przede wszystkim danych wpływających na uczenie, w tym pretrainingu, dostrajania i zbiorów wzmocnienia lub informacji zwrotnej. Manipulowanie źródłem wyszukiwania w czasie wnioskowania jest zwykle opisywane precyzyjniej jako zatruwanie retrieval-augmented generation lub zatruwanie bazy wiedzy; korumpowanie zbioru ewaluacyjnego może unieważnić zapewnienie, nawet jeśli nie zmienia wdrożonego modelu.

### Najważniejsze punkty

- **Rodowód danych:** Rejestruj pochodzenie, metodę zbierania, licencję, transformacje, etykiety, wersje, zatwierdzenia oraz modele lub eksperymenty, które konsumowały każdy zbiór danych.
- **Kontrole prewencyjne:** Ograniczaj i audytuj dostęp zapisu, oddzielaj zaufane dane ewaluacyjne, uwierzytelniaj zatwierdzone rewizje, chroń potoki i repozytoria oraz oceniaj dane pozyskiwane z zewnątrz lub wnoszone przez użytkowników.
- **Wykrywanie:** Używaj przeglądu statystycznego i semantycznego, analizy duplikatów i wartości odstających, ukierunkowanego próbkowania, porównań źródeł i testów podejrzanych wyzwalaczy lub skoncentrowanego wpływu.
- **Odtwarzanie:** Zachowuj dowody, identyfikuj dotknięte dane i modele pochodne, wracaj do zaufanej wersji zbioru, trenuj ponownie tam, gdzie konieczne, i zamykaj słabość pobierania lub autoryzacji.
- **Istotne ograniczenie:** Zatrute przykłady mogą wyglądać legalnie, a mały, starannie wybrany podzbiór może być wpływowy. Czyszczenie danych redukuje ekspozycję, ale nie może certyfikować, że zbiór jest niegroźny; dane niskiej jakości lub niereprezentatywne bez zamiaru przeciwnika to problem jakości danych, a nie zatrucie.

### Powiązane terminy

[Zatruwanie modelu](<https://yellowcube.eu/pl/glossary/model-poisoning/>) · [Operacje bezpieczeństwa uczenia maszynowego (MLSecOps)](<https://yellowcube.eu/pl/glossary/machine-learning-security-operations/>) · [Adversarial machine learning](<https://yellowcube.eu/pl/glossary/adversarial-machine-learning/>)

### Źródła

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [NSA and partners, AI Data Security](https://www.nsa.gov/Press-Room/Press-Releases-Statements/Press-Release-View/Article/4192332/nsas-aisc-releases-joint-guidance-on-the-risks-and-best-practices-in-ai-data-se/) · [MITRE ATLAS](https://atlas.mitre.org/)

## Budujmy skuteczniejszą cyberobronę razem

Budujemy trwałe partnerstwa oparte na zaufaniu, wiedzy i wspólnych sukcesach. Chcesz rozwijać firmę, poszerzyć ofertę cyberbezpieczeństwa lub wprowadzić innowacyjne rozwiązania na nowe rynki? Yellow Cube wspiera Cię na każdym z tych etapów.

[Skontaktuj się z Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Źródło i zakres informacji

Ta wersja Markdown jest generowana z tych samych zatwierdzonych treści co kanoniczna strona HTML. Przy cytowaniu użyj kanonicznego adresu URL.