# Mi a prompt injection?

> A prompt injection a generatív AI-rendszer olyan utasításokon keresztüli manipulálása, amelyek a modellt az alkalmazás szándékolt utasításainak felülírására vagy azokkal ütközésbe hozzák.

- Kanonikus URL: https://yellowcube.eu/hu/glossary/prompt-injection/
- Kiadó: Yellow Cube
- Nyelv: hu
- Kapcsolat: hello@yellowcube.eu

## Tartalom

Azt a nehézséget használja ki, hogy a modell kontextusában a megbízható utasításokat és nem megbízható tartalmat nehéz megbízhatóan elválasztani. A közvetlen injektálás az interakciós felhasználótól jön; a közvetett injektálást olyan tartalomba ültetik, amelyet a rendszer később feldolgoz — weboldal, e-mail, dokumentum, kép, eszközeredmény vagy visszakeresési rekord.

A következmény kevésbé a szövegen, inkább a modellt körülvevő alkalmazáson múlik. Egy elszigetelt asszisztens nemkívánatos választ adhat, míg egy privát adatokhoz, hitelesítő adatokhoz vagy külső eszközökhöz hozzáférő ügynök információt fedhet fel vagy jogosulatlan műveleteket indíthat. A védelemnek ezért feltételeznie kell, hogy a készített tartalom befolyásolhatja a modellt, és korlátoznia kell, mit tehet a keletkező kimenet.

### Legfontosabb pontok

- **Bizalmi határok:** Azonosítson minden útvonalat, amely szöveget, képet, visszakeresett rekordot vagy eszközkimenetet ad a kontextushoz, és a külső tartalmat megbízhatatlanként címkézze még akkor is, ha ismerős dokumentumban jelenik meg.
- **Hatáscsökkentés:** Adjon a modelleknek és eszközöknek minimálisjogosultság-identitásokat, válassza szét az érzékeny adatokat, korlátozza az elérhető műveleteket, validálja az eszközargumentumokat, és kérjen független jóváhagyást a nagy hatású műveletekhez.
- **Észlelés és tesztelés:** Gyakoroljon közvetlen, közvetett, kódolt, többnyelvű, multimodális és többlépéses eseteket; naplózza a vizsgálathoz szükséges modellt, promptot, visszakeresett tartalmat, eszközhívásokat és jogosítási döntéseket.
- **Fontos korlát:** A rendszerpromptok, bemeneti szűrők, határolók és modellalapú detektorok csökkenthetik a kockázatot, de nem adnak univerzális promptinjekciós határt. Az alkalmazásnak akkor is biztonságosnak kell maradnia, amikor a modell ellenséges utasításokat követ vagy ellenséges kimenetet bocsát ki.

### Kapcsolódó kifejezések

[Adatmérgezés](<https://yellowcube.eu/hu/glossary/data-poisoning/>) · [Minimális jogosultság](<https://yellowcube.eu/hu/glossary/least-privilege/>) · [AI red teaming](<https://yellowcube.eu/hu/glossary/ai-red-teaming/>) · [Agensalapú AI-biztonság](<https://yellowcube.eu/hu/glossary/agentic-ai-security/>)

### Források

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [OWASP LLM01:2025 Prompt Injection](https://genai.owasp.org/llmrisk/llm01-prompt-injection/) · [MITRE ATLAS](https://atlas.mitre.org/)

## Forrásmegjelölés és hatókör

Ez a Markdown-változat ugyanazokból a jóváhagyott tartalmi rekordokból készül, mint a kanonikus HTML-oldal. Hivatkozáskor a kanonikus URL-t használja.