# Co je zabezpečení agentní AI?

> Zabezpečení agentní AI (agentic AI security) je praxe ochrany systémů AI, které sledují cíle skrze delegovaný přístup k nástrojům, službám či jiným agentům.

- Kanonická URL: https://yellowcube.eu/cs/glossary/agentic-ai-security/
- Vydavatel: Yellow Cube
- Jazyk: cs
- Kontakt: hello@yellowcube.eu

## Obsah

Takový systém může plánovat kroky, udržovat paměť, vybírat nástroje a jednat za uživatele. Jeho bezpečnostní hranice zahrnuje model, orchestrační kód, prompty, paměť, rozhraní nástrojů, přihlašovací údaje, připojená data, jiné agenty a prostředí akce.

Rizika zahrnují nepřímý prompt injection, manipulované výsledky nástrojů, nadměrná oprávnění, expozici přihlašovacích údajů, otrávenou paměť, impersonifikaci mezi agenty a škodlivé řetězce povolených akcí. Selhání mohou nastat i bez útočníka, když agent špatně pochopí cíl či optimalizuje nesprávný účel. Kontroly by měly omezovat, co agent může pozorovat a měnit, se silnějším schvalováním pro akce s důsledky.

### Klíčové body

- **Ohraničená autorita:** Dejte každému nástroji a workflow úzce ohraničené, krátko žijící přihlašovací údaje; omezujte cíle, data, typy akcí, utrácení a dobu vykonávání; a vyžadujte schválení pro kroky s vysokým dopadem.
- **Ochrana kontextu a paměti:** Oddělujte uživatele a úkoly, označujte a validujte nedůvěryhodný obsah, řiďte, co persistuje, zaznamenávejte provenienci a předcházejte tomu, aby získané instrukce tiše přepsaly autorizované cíle.
- **Pozorování a zadržení:** Logujte prompty, rozhodnutí, volání nástrojů a výsledky tam, kde je to přiměřené; detekujte abnormální řetězce akcí; používejte sandboxy, limity rychlosti, kontroly transakcí a spolehlivé mechanismy zastavení či rollbacku.
- **Assurance celého systému:** Testujte realistické vícekrokové útoky a náhodná selhání, včetně kompromitace nástrojů, otravy paměti, kaskádujících agentů a obnovy z částečně dokončených akcí.
- **Důležité omezení:** Zabezpečení agentní AI je vznikající obor s neusazenou terminologií, protokoly a metodami assurance. Konvenční kontroly softwaru, identity a rizika AI zůstávají nutné, ale nemusí plně řešit delegované a adaptivní chování.

### Související termíny

[Bezpečnost AI](<https://yellowcube.eu/cs/glossary/ai-security/>) · [Prompt injection](<https://yellowcube.eu/cs/glossary/prompt-injection/>) · [Princip nejmenších oprávnění](<https://yellowcube.eu/cs/glossary/least-privilege/>) · [Řízení rizik AI](<https://yellowcube.eu/cs/glossary/ai-risk-management/>) · [DevSecOps](<https://yellowcube.eu/cs/glossary/devsecops/>)

### Zdroje

[NIST AI 800-5: Summary Analysis of Responses to the RFI Regarding Security Considerations for AI Agents](https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai) · [NIST: Tool Use in Agent Systems](https://www.nist.gov/news-events/news/2025/08/lessons-learned-consortium-tool-use-agent-systems) · [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework)

## Pojďme budovat chytřejší kybernetickou obranu Společně

Dlouhodobá partnerství stavíme na důvěře, odbornosti a společném úspěchu. Ať chcete rozvíjet své podnikání, rozšířit nabídku kybernetické bezpečnosti nebo uvést inovativní řešení na nové trhy, v Yellow Cube najdete spolehlivého partnera.

[Spojte se s Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Uvedení zdroje a rozsah

Tato verze Markdown vzniká ze stejných schválených záznamů jako kanonická stránka HTML. Při citování použijte kanonickou adresu.