# Was ist Agentic AI Security?

> Agentic AI Security ist die Praxis, KI-Systeme zu schützen, die Ziele über delegierten Zugriff auf Werkzeuge, Dienste oder andere Agenten verfolgen.

- Kanonische URL: https://yellowcube.eu/de/glossary/agentic-ai-security/
- Herausgeber: Yellow Cube
- Sprache: de
- Kontakt: hello@yellowcube.eu

## Inhalt

Ein solches System kann Schritte planen, Gedächtnis behalten, Werkzeuge auswählen und für einen Nutzer handeln. Seine Sicherheitsgrenze umfasst das Modell, Orchestrierungscode, Prompts, Gedächtnis, Werkzeugschnittstellen, Credentials, verbundene Daten, andere Agenten und die Aktionsumgebung.

Zu den Risiken gehören indirekte Prompt Injection, manipulierte Werkzeugergebnisse, übermäßige Berechtigungen, Credential-Exposition, vergiftetes Gedächtnis, Agenten-übergreifende Identitätstäuschung und schädliche Ketten erlaubter Aktionen. Fehlschläge können auch ohne Angreifer auftreten, wenn ein Agent ein Ziel missversteht oder die falsche Zielgröße optimiert. Kontrollen sollten begrenzen, was der Agent beobachten und verändern kann — mit stärkerer Freigabe für folgenreiche Aktionen.

### Wichtigste Punkte

- **Begrenzte Befugnis:** Jedem Werkzeug und Workflow eng gefasste, kurzlebige Credentials geben; Ziele, Daten, Aktionstypen, Ausgaben und Laufzeit beschränken; und für folgenreiche Schritte Freigabe verlangen.
- **Kontext- und Gedächtnisschutz:** Nutzer und Aufgaben trennen, nicht vertrauenswürdige Inhalte kennzeichnen und validieren, steuern, was persistiert, Provenance aufzeichnen und verhindern, dass abgerufene Anweisungen autorisierte Ziele still überstimmen.
- **Beobachtung und Eindämmung:** Prompts, Entscheidungen, Werkzeugaufrufe und Ergebnisse dort protokollieren, wo verhältnismäßig; abnormale Aktionsketten erkennen; Sandboxes, Rate Limits, Transaktionsprüfungen und zuverlässige Stopp- oder Rollback-Mechanismen einsetzen.
- **Ganzheitliche Assurance:** Realistische mehrstufige Angriffe und versehentliche Fehlschläge testen — einschließlich Werkzeugkompromittierung, Gedächtnisvergiftung, kaskadierender Agenten und Wiederherstellung aus teilweise abgeschlossenen Aktionen.
- **Wichtige Einschränkung:** Agentic AI Security ist ein aufkommendes Feld mit ungeklärter Terminologie, Protokollen und Assurance-Methoden. Konventionelle Software-, Identitäts- und KI-Risikokontrollen bleiben nötig, adressieren delegiertes und adaptives Verhalten aber möglicherweise nicht vollständig.

### Verwandte Begriffe

[AI Security](<https://yellowcube.eu/de/glossary/ai-security/>) · [Prompt Injection](<https://yellowcube.eu/de/glossary/prompt-injection/>) · [Least Privilege](<https://yellowcube.eu/de/glossary/least-privilege/>) · [AI Risk Management](<https://yellowcube.eu/de/glossary/ai-risk-management/>) · [DevSecOps](<https://yellowcube.eu/de/glossary/devsecops/>)

### Quellen

[NIST AI 800-5: Summary Analysis of Responses to the RFI Regarding Security Considerations for AI Agents](https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai) · [NIST: Tool Use in Agent Systems](https://www.nist.gov/news-events/news/2025/08/lessons-learned-consortium-tool-use-agent-systems) · [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework)

## Quellenangabe und Geltungsbereich

Diese Markdown-Darstellung wird aus denselben freigegebenen Inhalten wie die kanonische HTML-Seite erzeugt. Verwenden Sie beim Zitieren die kanonische URL.