# Co je prompt injection?

> Prompt injection je manipulace generativního systému AI skrze instrukce, které způsobují, že model přepíše zamýšlené instrukce aplikace či s nimi vstoupí do konfliktu.

- Kanonická URL: https://yellowcube.eu/cs/glossary/prompt-injection/
- Vydavatel: Yellow Cube
- Jazyk: cs
- Kontakt: hello@yellowcube.eu

## Obsah

Zneužívá obtížnost spolehlivého oddělení důvěryhodných směrů od nedůvěryhodného obsahu v kontextu modelu. Přímá injekce pochází od interagujícího uživatele; nepřímá injekce je zasazena do obsahu, který systém později zpracovává, jako webová stránka, e-mail, dokument, obrázek, výsledek nástroje či retrieval záznam.

Důsledek závisí méně na samotném textu než na aplikaci kolem modelu. Izolovaný asistent může produkovat nechtěnou odpověď, zatímco agent s přístupem k privátním datům, přihlašovacím údajům či externím nástrojům by mohl zpřístupnit informace či iniciovat neautorizované akce. Obrana by proto měla předpokládat, že vytvořený obsah může ovlivnit model, a omezovat, co jakýkoli výsledný výstup smí udělat.

### Klíčové body

- **Hranice důvěry:** Identifikujte každou cestu, která přidává text, obrázky, získané záznamy či výstup nástrojů do kontextu, a označujte externí obsah jako nedůvěryhodný i když se objevuje uvnitř známého dokumentu.
- **Redukce dopadu:** Dejte modelům a nástrojům identity s nejmenšími privilegii, oddělte citlivá data, omezujte dostupné akce, validujte argumenty nástrojů a vyžadujte nezávislé schválení pro operace s vysokým dopadem.
- **Detekce a testování:** Cvičte přímé, nepřímé, kódované, vícejazyčné, multimodální a vícekrokové případy; logujte model, prompt, získaný obsah, volání nástrojů a autorizační rozhodnutí potřebná k vyšetření výsledků.
- **Důležité omezení:** Systémové prompty, vstupní filtry, oddělovače a detektory založené na modelu mohou snížit riziko, ale neposkytují univerzální hranici prompt injection. Aplikace musí zůstat bezpečná, když model následuje nepřátelské instrukce či emituje nepřátelský výstup.

### Související termíny

[Otrávení dat](<https://yellowcube.eu/cs/glossary/data-poisoning/>) · [Princip nejmenších oprávnění](<https://yellowcube.eu/cs/glossary/least-privilege/>) · [Red teaming AI](<https://yellowcube.eu/cs/glossary/ai-red-teaming/>) · [Zabezpečení agentní AI](<https://yellowcube.eu/cs/glossary/agentic-ai-security/>)

### Zdroje

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [OWASP LLM01:2025 Prompt Injection](https://genai.owasp.org/llmrisk/llm01-prompt-injection/) · [MITRE ATLAS](https://atlas.mitre.org/)

## Pojďme budovat chytřejší kybernetickou obranu Společně

Dlouhodobá partnerství stavíme na důvěře, odbornosti a společném úspěchu. Ať chcete rozvíjet své podnikání, rozšířit nabídku kybernetické bezpečnosti nebo uvést inovativní řešení na nové trhy, v Yellow Cube najdete spolehlivého partnera.

[Spojte se s Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Uvedení zdroje a rozsah

Tato verze Markdown vzniká ze stejných schválených záznamů jako kanonická stránka HTML. Při citování použijte kanonickou adresu.