# Czym jest prompt injection?

> Prompt injection (wstrzykiwanie promptów) to manipulacja systemem generatywnej AI przez instrukcje powodujące, że model nadpisuje lub koliduje z zamierzonymi instrukcjami aplikacji.

- Kanoniczny adres URL: https://yellowcube.eu/pl/glossary/prompt-injection/
- Wydawca: Yellow Cube
- Język: pl
- Kontakt: hello@yellowcube.eu

## Treść

Wykorzystuje trudność niezawodnego oddzielania zaufanych wskazówek od niezaufanej treści w kontekście modelu. Bezpośrednie wstrzyknięcie pochodzi od współdziałającego użytkownika; pośrednie wstrzyknięcie jest zaszyte w treści, którą system później przetwarza, takiej jak strona internetowa, e-mail, dokument, obraz, wynik narzędzia lub rekord wyszukiwania.

Konsekwencja zależy mniej od samego tekstu niż od aplikacji wokół modelu. Izolowany asystent może wyprodukować niepożądaną odpowiedź, podczas gdy agent z dostępem do prywatnych danych, poświadczeń lub zewnętrznych narzędzi mógłby ujawnić informacje lub zainicjować nieautoryzowane działania. Obrony powinny zatem zakładać, że spreparowana treść może wpłynąć na model, i ograniczać, co wynikające wyjście może zrobić.

### Najważniejsze punkty

- **Granice zaufania:** Zidentyfikuj każdą ścieżkę dodającą tekst, obrazy, pobrane rekordy lub wyjście narzędzi do kontekstu oraz oznaczaj zewnętrzną treść jako niezaufaną nawet wtedy, gdy pojawia się wewnątrz znajomego dokumentu.
- **Redukcja wpływu:** Nadawaj modelom i narzędziom tożsamości o minimalnych uprawnieniach, oddzielaj wrażliwe dane, ograniczaj dostępne akcje, waliduj argumenty narzędzi i wymagaj niezależnego zatwierdzenia dla operacji o dużym wpływie.
- **Wykrywanie i testowanie:** Ćwicz przypadki bezpośrednie, pośrednie, zakodowane, wielojęzyczne, multimodalne i wieloetapowe; loguj model, prompt, pobraną treść, wywołania narzędzi i decyzje autoryzacji potrzebne do zbadania wyników.
- **Istotne ograniczenie:** Prompty systemowe, filtry wejściowe, ograniczniki i detektory oparte na modelu mogą redukować ryzyko, ale nie zapewniają uniwersalnej granicy przeciw wstrzykiwaniu promptów. Aplikacja musi pozostawać bezpieczna, gdy model wykonuje wrogie instrukcje lub emituje wrogie wyjście.

### Powiązane terminy

[Zatruwanie danych](<https://yellowcube.eu/pl/glossary/data-poisoning/>) · [Zasada minimalnych uprawnień](<https://yellowcube.eu/pl/glossary/least-privilege/>) · [AI red teaming](<https://yellowcube.eu/pl/glossary/ai-red-teaming/>) · [Bezpieczeństwo agentic AI](<https://yellowcube.eu/pl/glossary/agentic-ai-security/>)

### Źródła

[NIST AI 100-2 E2025, Adversarial Machine Learning Taxonomy](https://csrc.nist.gov/pubs/ai/100/2/e2025/final) · [OWASP LLM01:2025 Prompt Injection](https://genai.owasp.org/llmrisk/llm01-prompt-injection/) · [MITRE ATLAS](https://atlas.mitre.org/)

## Budujmy skuteczniejszą cyberobronę razem

Budujemy trwałe partnerstwa oparte na zaufaniu, wiedzy i wspólnych sukcesach. Chcesz rozwijać firmę, poszerzyć ofertę cyberbezpieczeństwa lub wprowadzić innowacyjne rozwiązania na nowe rynki? Yellow Cube wspiera Cię na każdym z tych etapów.

[Skontaktuj się z Yellow Cube](<mailto:hello@yellowcube.eu?subject=Partnership>)

## Źródło i zakres informacji

Ta wersja Markdown jest generowana z tych samych zatwierdzonych treści co kanoniczna strona HTML. Przy cytowaniu użyj kanonicznego adresu URL.