# Mi az agensalapú AI-biztonság?

> Az agensalapú AI-biztonság az olyan AI-rendszerek védelmének gyakorlata, amelyek eszközökhöz, szolgáltatásokhoz vagy más ügynökökhöz delegált hozzáférésen át célokat követnek.

- Kanonikus URL: https://yellowcube.eu/hu/glossary/agentic-ai-security/
- Kiadó: Yellow Cube
- Nyelv: hu
- Kapcsolat: hello@yellowcube.eu

## Tartalom

Az ilyen rendszer lépéseket tervezhet, memóriát tarthat fenn, eszközöket választhat és a felhasználó nevében cselekedhet. Biztonsági határába a modell, orkesztrációs kód, promptok, memória, eszközinterfészek, hitelesítő adatok, csatlakoztatott adatok, más ügynökök és a műveleti környezet tartozik.

A kockázatok közé tartozik a közvetett prompt injection, manipulált eszközeredmények, túlzott jogosultságok, hitelesítőadat-kitettség, megmérgezett memória, ügynökök közötti megszemélyesítés és megengedett műveletek káros láncolatai. A meghibásodások támadó nélkül is bekövetkezhetnek, ha egy ügynök félreérti a célt vagy rossz célkitűzést optimalizál. A kontrolloknak korlátozniuk kell, mit figyelhet és változtathat meg az ügynök, a következményes műveletekhez erősebb jóváhagyással.

### Legfontosabb pontok

- **Korlátozott felhatalmazás:** Adjon minden eszköznek és munkafolyamatnak szűk hatókörű, rövid életű hitelesítő adatokat; korlátozza a célállomásokat, adatokat, művelettípusokat, költést és végrehajtási időt; és kérjen jóváhagyást a nagy hatású lépésekhez.
- **Kontextus- és memóriavédelem:** Válassza szét a felhasználókat és feladatokat, címkézze és validálja a nem megbízható tartalmat, szabályozza, mi perzisztál, rögzítse az eredetet, és akadályozza meg, hogy a visszakeresett utasítások csendben felülírják a jogos célokat.
- **Megfigyelés és visszafogás:** Naplózza a promptokat, döntéseket, eszközhívásokat és eredményeket arányosan; észlelje az abnormál műveletláncokat; használjon sandboxokat, sebességkorlátokat, tranzakcióellenőrzéseket és megbízható leállítási vagy visszagörgetési mechanizmusokat.
- **Egészrendszer-biztosíték:** Teszteljen valósághű többlépéses támadásokat és véletlen meghibásodásokat — beleértve az eszközkompromittálódást, memóriamérgezést, kaszkádoló ügynököket és a részlegesen végrehajtott műveletekből való helyreállítást.
- **Fontos korlát:** Az agensalapú AI-biztonság feltörekvő terület megállapodatlan terminológiával, protokollokkal és biztosítékmódszerekkel. A hagyományos szoftver-, identitás- és AI-kockázati kontrollok továbbra is szükségesek, de nem feltétlenül kezelik teljesen a delegált és adaptív viselkedést.

### Kapcsolódó kifejezések

[AI-biztonság](<https://yellowcube.eu/hu/glossary/ai-security/>) · [Prompt injection](<https://yellowcube.eu/hu/glossary/prompt-injection/>) · [Minimális jogosultság](<https://yellowcube.eu/hu/glossary/least-privilege/>) · [AI-kockázatkezelés](<https://yellowcube.eu/hu/glossary/ai-risk-management/>) · [DevSecOps](<https://yellowcube.eu/hu/glossary/devsecops/>)

### Források

[NIST AI 800-5: Summary Analysis of Responses to the RFI Regarding Security Considerations for AI Agents](https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai) · [NIST: Tool Use in Agent Systems](https://www.nist.gov/news-events/news/2025/08/lessons-learned-consortium-tool-use-agent-systems) · [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework)

## Forrásmegjelölés és hatókör

Ez a Markdown-változat ugyanazokból a jóváhagyott tartalmi rekordokból készül, mint a kanonikus HTML-oldal. Hivatkozáskor a kanonikus URL-t használja.