# Was ist AI Security?

> AI Security ist die Disziplin, die KI-Systeme und ihre Umgebungen vor bösartiger Manipulation, unbefugtem Zugriff, Offenlegung, Diebstahl und Störung schützt.

- Kanonische URL: https://yellowcube.eu/de/glossary/ai-security/
- Herausgeber: Yellow Cube
- Sprache: de
- Kontakt: hello@yellowcube.eu

## Inhalt

Ihr Scope umfasst Trainings- und Evaluierungsdaten, Modelle und Gewichte, Code, Prompts, Retrieval-Speicher, Entwicklungs-Pipelines, Identitäten, Infrastruktur, Schnittstellen, verbundene Werkzeuge sowie die Entscheidungen oder Aktionen, die eine KI-gestützte Anwendung erzeugen kann.

Die Arbeit erweitert etablierte Cybersicherheits-Praktiken über den KI-Lebenszyklus und adressiert dabei Angriffspfade, die durch maschinelles Lernen entstehen oder verstärkt werden. Ein belastbares Programm beginnt mit Zweck, Assets, Akteuren und Vertrauensgrenzen des Systems und wählt Kontrollen dann nach realistischen Konsequenzen aus. Es schützt Vertraulichkeit, Integrität und Verfügbarkeit, ohne anzunehmen, dass ein leistungsstarkes Modell oder ein renommierter Anbieter die gesamte Anwendung sicher macht.

### Wichtigste Punkte

- **Lebenszyklus-Scope:** Beschaffung, Datenvorbereitung, Training oder Anpassung, Evaluation, Bereitstellung, Betrieb, Änderung, Incident Response und Außerbetriebnahme bewerten — nicht nur den öffentlichen Modell-Endpunkt.
- **Kernkontrollen:** Ein Asset-Inventar pflegen; Provenance verifizieren; Least Privilege, sichere Entwicklung und Supply-Chain-Kontrollen anwenden; sensible Ressourcen isolieren; Outputs vor der Nutzung validieren; sowie konventionellen und KI-spezifischen Missbrauch überwachen.
- **Assurance-Nachweise:** Threat Modeling, Sicherheitstests, adversariale Evaluation, Zugriffs- und Konfigurationsprüfung, Vorfallübungen, Monitoring und erneutes Testen nach wesentlichen Änderungen kombinieren.
- **Wichtige Einschränkung:** AI Security ist kein Synonym für AI Safety oder allgemeine Vertrauenswürdigkeit. Ein System kann Angreifern standhalten und dennoch ungenau, unfair, im vorgesehenen Kontext unsicher oder schlecht gesteuert sein — und kein einzelnes Gateway oder Scanner deckt das gesamte Risiko ab.

### Verwandte Begriffe

[Adversarial Machine Learning](<https://yellowcube.eu/de/glossary/adversarial-machine-learning/>) · [AI Red Teaming](<https://yellowcube.eu/de/glossary/ai-red-teaming/>) · [Prompt Injection](<https://yellowcube.eu/de/glossary/prompt-injection/>) · [AI Risk Management](<https://yellowcube.eu/de/glossary/ai-risk-management/>) · [KI in der Cybersicherheit](<https://yellowcube.eu/de/glossary/ai-in-cybersecurity/>) · [Secure by Design](<https://yellowcube.eu/de/glossary/secure-by-design/>) · [Machine Learning Security Operations (MLSecOps)](<https://yellowcube.eu/de/glossary/machine-learning-security-operations/>) · [AI Governance](<https://yellowcube.eu/de/glossary/ai-governance/>)

### Quellen

[NSA Artificial Intelligence Security Center](https://www.nsa.gov/AISC/) · [NIST AI Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST AI 600-1, Generative AI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)

## Quellenangabe und Geltungsbereich

Diese Markdown-Darstellung wird aus denselben freigegebenen Inhalten wie die kanonische HTML-Seite erzeugt. Verwenden Sie beim Zitieren die kanonische URL.