# Mi az adverszáriális gépi tanulás?

> Az adverszáriális gépi tanulás a gépi tanulási rendszereket kihasználó támadásokkal, valamint azok megértésével és enyhítésével foglalkozó terület.

- Kanonikus URL: https://yellowcube.eu/hu/glossary/adversarial-machine-learning/
- Kiadó: Yellow Cube
- Nyelv: hu
- Kapcsolat: hello@yellowcube.eu

## Tartalom

Azt vizsgálja, hogyan befolyásolhat az ellenfél adatokat, modelleket, bemeneteket, kimeneteket vagy környező munkafolyamatokat a bizalmasság, integritás, rendelkezésre állás vagy elfogadható használat megsértésére. Támadás- és védekezéstudomány, nem egy konkrét sebezhetőség neve.

A NIST jelenlegi taxonómiája az életciklus-szakasz, az ellenfél célja, célkitűzése, képessége és tudása szerint rendezi a támadásokat. A releváns családok közé tartozik a következtetési időbeli kitérés, a tanítási mérgezés, adatvédelmi támadások és a generatív rendszerek prompton vagy visszaélésen át történő abúzusa. A valódi rendszerek a hagyományos identitás-, API-, szoftver-, felhőszolgáltatás- és ellátáslánci gyengeségeket is öröklik, ezért az adverszáriális-ML-értékelésnek a modellviselkedést a teljes alkalmazáshoz kell kapcsolnia.

### Legfontosabb pontok

- **Támadási szakasz:** Állapítsa meg, hogy az ellenfél befolyásolhatja-e az adatgyűjtést, tanítást, modellterjesztést, bevetést, következtetési bemeneteket, visszakeresést, visszacsatolást vagy csatlakoztatott műveleteket.
- **Ellenfélfeltételek:** Mondja ki, milyen hozzáférést, tudást, kontrollt, erőforrásokat és lekérdezési lehetőségeket feltételez a támadás; a teljes modellhozzáféréssel elért eredmény nem feltétlenül vihető át távoli szolgáltatásra.
- **Biztonsági célkitűzések:** Értékelje a rendelkezésreállás-hibákat, nem célzott vagy célzott integritássértéseket, adatvédelmi vesztést, modelllopást és visszaélést a bevetési kontextusban értelmes következmények ellen.
- **Védekező gyakorlat:** Kombinálja a modellszintű értékelést eredettel, hozzáférés-vezérléssel, biztonságos mérnöki munkával, monitorozással, incidenskezeléssel és a downstream döntésekre vagy műveletekre kivetett korlátokkal.
- **Fontos korlát:** Az ismert benchmark vagy támadásmódszer elleni robusztusság nem általános biztonság. A támadók alkalmazkodnak, a kutatási feltevések eltérnek, és az egyik tulajdonságot javító kontrollok kitetve hagyhatják az alkalmazás- vagy emberi bizalmi határokat.

### Kapcsolódó kifejezések

[AI-biztonság](<https://yellowcube.eu/hu/glossary/ai-security/>) · [Adatmérgezés](<https://yellowcube.eu/hu/glossary/data-poisoning/>) · [Modellmérgezés](<https://yellowcube.eu/hu/glossary/model-poisoning/>) · [Prompt injection](<https://yellowcube.eu/hu/glossary/prompt-injection/>) · [AI red teaming](<https://yellowcube.eu/hu/glossary/ai-red-teaming/>)

### Források

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [NIST AI Security and Resilience](https://www.nist.gov/artificial-intelligence/ai-research-security-and-resilience) · [MITRE ATLAS](https://atlas.mitre.org/)

## Forrásmegjelölés és hatókör

Ez a Markdown-változat ugyanazokból a jóváhagyott tartalmi rekordokból készül, mint a kanonikus HTML-oldal. Hivatkozáskor a kanonikus URL-t használja.