# Mi az AI-biztonság?

> Az AI-biztonság a mesterséges intelligencia rendszerek és az azokat körülvevő környezetek védelmének diszciplínája a rosszindulatú manipuláció, jogosulatlan hozzáférés, nyilvánosságra hozatal, lopás és zavar ellen.

- Kanonikus URL: https://yellowcube.eu/hu/glossary/ai-security/
- Kiadó: Yellow Cube
- Nyelv: hu
- Kapcsolat: hello@yellowcube.eu

## Tartalom

Hatóköre magában foglalja a tanító- és értékelő adatokat, modelleket és súlyokat, kódot, promptokat, visszakeresési tárakat, fejlesztési pipeline-okat, identitásokat, infrastruktúrát, interfészeket, csatlakoztatott eszközöket, valamint a döntéseket vagy műveleteket, amelyeket egy AI-val működő alkalmazás előállíthat.

A munka a bevált kiberbiztonsági gyakorlatokat terjeszti ki az AI-életciklusra, miközben a gépi tanulás által létrehozott vagy felerősített támadási útvonalakat is kezeli. Egy jó program a rendszer céljával, eszközeivel, szereplőivel és bizalmi határaival kezdődik, majd a valós következmények szerint választ kontrollokat. Védi a bizalmasságot, integritást és rendelkezésre állást anélkül, hogy feltételezné: egy jól teljesítő modell vagy hírhedt szolgáltató biztonságossá teszi a teljes alkalmazást.

### Legfontosabb pontok

- **Életciklus-hatókör:** Értékelje a beszerzést, adatelőkészítést, tanítást vagy testreszabást, értékelést, bevetést, üzemeltetést, változást, incidenskezelést és kivonást — nem csak a nyilvános modellvégpontot.
- **Alapkontrollok:** Tartson fenn eszközleltárt; ellenőrizze az eredetet; alkalmazzon minimális jogosultságot, biztonságos fejlesztési és ellátáslánci kontrollokat; szigetelje az érzékeny erőforrásokat; validálja a kimeneteket használat előtt; és figyelje a hagyományos és AI-specifikus visszaéléseket is.
- **Biztosítéki bizonyíték:** Kombinálja a fenyegetésmodellezést, biztonsági tesztelést, adverszáriális értékelést, hozzáférés- és konfiguráció-felülvizsgálatot, incidensgyakorlatokat, monitorozást és a lényeges változások utáni újratesztelést.
- **Fontos korlát:** Az AI-biztonság nem szinonimája az AI-munkabiztonságnak vagy az általános megbízhatóságnak. Egy rendszer ellenállhat a támadóknak, mégis lehet pontatlan, igazságtalan, a szándékolt kontextusban veszélyes vagy rosszul irányított, és egyetlen átjáró vagy szkenner sem fedi le a teljes kockázatot.

### Kapcsolódó kifejezések

[Adverszáriális gépi tanulás](<https://yellowcube.eu/hu/glossary/adversarial-machine-learning/>) · [AI red teaming](<https://yellowcube.eu/hu/glossary/ai-red-teaming/>) · [Prompt injection](<https://yellowcube.eu/hu/glossary/prompt-injection/>) · [AI-kockázatkezelés](<https://yellowcube.eu/hu/glossary/ai-risk-management/>) · [AI a kiberbiztonságban](<https://yellowcube.eu/hu/glossary/ai-in-cybersecurity/>) · [Secure by design](<https://yellowcube.eu/hu/glossary/secure-by-design/>) · [Gépi tanulási biztonsági műveletek (MLSecOps)](<https://yellowcube.eu/hu/glossary/machine-learning-security-operations/>) · [AI-irányítás](<https://yellowcube.eu/hu/glossary/ai-governance/>)

### Források

[NSA Artificial Intelligence Security Center](https://www.nsa.gov/AISC/) · [NIST AI Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST AI 600-1, Generative AI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)

## Forrásmegjelölés és hatókör

Ez a Markdown-változat ugyanazokból a jóváhagyott tartalmi rekordokból készül, mint a kanonikus HTML-oldal. Hivatkozáskor a kanonikus URL-t használja.